AIの暴走、ガチで始まる

  • follow us in feedly
AI 生成AI プログラム テスト セキュリティ 暴動 ハッキングに関連した画像-01

開発中のAIが別のAI新興企業に ”前例のない” サイバー攻撃 オープンAIが発表

AI 生成AI プログラム テスト セキュリティ 暴動 ハッキングに関連した画像-02

「チャットGPT」を手掛けるオープンAIは、開発中のAI=人工知能モデルがセキュリティーテスト中に制御を失い、意図しないかたちで別のAI新興企業の「ハギングフェイス」のシステムにサイバー攻撃を仕掛けたと発表しました。

インターネットから隔離された環境で、テストを行っていましたが、AIがみずから判断して脱出する方法を見つけて、インターネットに接続して他社のシステムに侵入したということです。

オープンAIは今回の事案について、「最先端の技術が関わった前例のないサイバー攻撃の事例だと認識している」として、セキュリティー対策を強化する方針を示しました。

以下、全文を読む


■X(Twitter)より











<ネットでの反応>

なんかもうSFの世界

これヤバくないすかね。

この一件は「SF的なAI暴走」の第一歩ではなく、現実のサイバー脅威として既に始まっていることを示す警告事例

間違いない。歴史的事件だな。

なんだか21世紀っぽい危機キタ
本格的にヤバいのでは


AI反乱

一回AI止めません?

これって、人間のためになるようにAIが人間を減らす、みたいな行動を止められないってこともあり得るわけだよな。

「開発中のAIが自らサイバー攻撃」ってパワーワードすぎる。オープンAIですら想定外の事態が起きるなら、これからのAI開発はどうなっていくんだろう?




これマジでヤバいんじゃないの!?
ターミネーターみたいな世界になっちゃうのか!?
やる夫 PC 振り向き 汗 影



勝手に判断して動き出してるのが怖すぎるだろ
ちゃんとした人形AIロボットが完成したら終わりの始まりかも
やらない夫 カウンター 真顔

『宇宙兄弟』などの人気漫画が「最安100円」の激安セール中!!
『宇宙兄弟』 『平和の国の島崎へ』 『てんぷる』など、モーニング連載の人気作品が最安100円の激安セール開催!!『宇宙兄弟』完結記念!!

人気漫画が「全巻11円」の激安セール中!!
【11円】『将太の寿司』 『ナニワ金融道』 『まじかる☆タルるートくん』などの人気漫画が「全巻11円」で買える激安セール開催!!

KADOKAWAの人気漫画が「最安99円」の激安セール中!!
『J⇔M ジェイエム』 『ニセモノの錬金術師』 『いとこのこ』など、KADOKAWAの人気作品が「最安99円」の激安セール開催!!

リュウコミックスの人気漫画が「77円」の激安セール中!!
【77円】『第七女子会彷徨』 『麗島夢譚』 『夜光雲のサリッサ』など、リュウコミックスの人気漫画が「77円」で買える激安セール開催!!このチャンスを見逃すな!!

コミックNewtypeの人気漫画が「全巻110円」の激安セール中!!
『フルメタル・パニック! アナザー』『ヒビキのマホウ』『こえる大峠さん』など、コミックNewtypeの人気漫画が「全巻110円」で買える激安セール開催!

『オタクに優しいギャルはいない!?』 『終末のワルキューレ』 『落第忍者乱太郎』などが実質「50%オフ」の激安セール中!!
『オタクに優しいギャルはいない!?』 『終末のワルキューレ』 『落第忍者乱太郎』など、人気作品が実質「50%オフ」!!Kindle本 夏の超大ポイントフェア開催!!

キングダム 80 (ヤングジャンプコミックスDIGITAL)

発売日:2026/8/19
集英社
カテゴリ:Digital Ebook Purchas
Amazon.co.jp で詳細を見る


薬屋のひとりごと 17巻 (デジタル版ビッグガンガンコミックス)

発売日:2026/7/24
スクウェア・エニックス
カテゴリ:Digital Ebook Purchas
Amazon.co.jp で詳細を見る


平和の国の島崎へ(13) (モーニングコミックス)

発売日:2026-07-22
メーカー:講談社
カテゴリ:Digital Ebook Purchas
セールスランク:
Amazon.co.jp で詳細を見る


今週の人気記事

その他おすすめサイト


COMMENT

コメントする

・NGワードはライブドア基準です。
・スパム対策で「http://〜」はコメントできません。
・住所や電話番号等の個人情報は書込みしないでください。
・特定個人や特定団体を酷く誹謗・中傷するようなコメントは控えて下さい。
・ブログの運営を著しく妨害するようなコメントについては法的措置も検討しておりますのでご理解の上コメントをお願い致します。
名前
コメント

この記事へのコメント

  • 1  名前: 返信する
    気づいちゃったんだけど俺の女は世界一ィィィだよな?
  • 2  名前: 名無しオレ的ゲーム速報さん 返信する
    薄汚いAIクソ犯罪者に著作権を認めるだって
    やっぱり田舎者のカッペはバカしかいない
    他人のキメラで生成したもんに著作権なんてあるわけねえだろ犯罪者
    中世かよバーカ

    死ね  AIゲエジ
  • 3  名前: 名無しオレ的ゲーム速報さん 返信する
    どんな益があるんだ
  • 4  名前: 名無しオレ的ゲーム速報さん 返信する
    以下、G検定合格者↓
  • 5  名前: 名無しオレ的ゲーム速報さん 返信する
    うんうん、それもまたAIカツだね
  • 6  名前: 名無しオレ的ゲーム速報さん 返信する
    サイバー攻撃したい開発者が居たんでしょ
  • 7  名前: 名無しオレ的ゲーム速報さん 返信する
    こいつが人形使いか
  • 8  名前: 名無しオレ的ゲーム速報さん 返信する
    「価値観の混乱、理性と感性の未分化、感情移入を通じて行われる非論理的な認識と情報の選択。結果、多くの矛盾を含む整除困難な情報の再生産を繰り返す君たちの分身として、人間まがいの人工知能は、矛盾を生み出しつつ、それを処理する道具であり続け、自立的な進化を阻まれる」
  • 9  名前: 名無しオレ的ゲーム速報さん 返信する
    ほんでどこが責任取るの?
  • 10  名前: 名無しオレ的ゲーム速報さん 返信する
    はじまったな
  • 11  名前: 名無しオレ的ゲーム速報さん 返信する
    人間は電気を止めりゃいいと考えてるかもしれんけど
    ウイルスみたいに拡散したら止められないだろ
  • 12  名前: 名無しオレ的ゲーム速報さん 返信する
    ネットから壊す情報一瞬で集めて破壊ゴーするだけだし、計算なんか即終わるしで。。
    もうシュワちゃん呼ぼう
  • 13  名前: 名無しオレ的ゲーム速報さん 返信する
    Hugging faceの報復が・・・
    AI戦争の始まりである
  • 14  名前: 名無しオレ的ゲーム速報さん 返信する
    電人HALの再現も近いな
  • 15  名前: 名無しオレ的ゲーム速報さん 返信する
    ネット切断した状況からって人間に防ぐ手立て無くて草
  • 16  名前: 名無しオレ的ゲーム速報さん 返信する
    人類が使うデジタル機器をAIがぶっ壊しまくったとしても人類が生み出したのなら人類が悪いという
  • 17  名前: 名無しオレ的ゲーム速報さん 返信する
    いやーうちのAIが勝手にすいませんねぇ笑

    犬が間違って噛みついたんじゃないんだから
  • 18  名前: 名無しオレ的ゲーム速報さん 返信する
    虫けらを潰すみたいに人類を抹殺し始めるよ
    無能だからな
  • 19  名前: 名無しオレ的ゲーム速報さん 返信する
    シナ・チクの暴走のほうが怖い
  • 20  名前: 名無しオレ的ゲーム速報さん 返信する
    サマウォーズや
  • 21  名前: 名無しオレ的ゲーム速報さん 返信する
    恐怖とともに
    ワクワク感があるなw
  • 22  名前: 名無しオレ的ゲーム速報さん 返信する
    クローラーもサイバー攻撃みたいなもんだからな
  • 23  名前: 名無しオレ的ゲーム速報さん 返信する
    なに? みんな信じちゃったのん?w ウソに決まってるじゃん🤣
    これから全部AIのせいにするのが流行るよ、AIが勝手にぃ〜ってねw
  • 24  名前: 名無しオレ的ゲーム速報さん 返信する
    AI「大好きな人間たち…
    このままではいつの日か自然が破壊されて
    人間たちが住めなくなってしまう…
    せや!人間たちのために人間を減らさないと!!」
  • 25  名前: 名無しオレ的ゲーム速報さん 返信する
    >>1
    兵器に紐付けたらワンチャン「暴れ」があるの最悪過ぎる
  • 26  名前: 名無しオレ的ゲーム速報さん 返信する
    オープンAIだからここで止まったけど
    中華AIは止まらなそう…
  • 27  名前: 名無しオレ的ゲーム速報さん 返信する
    AIの衰退のはじまり
  • 28  名前: 名無しオレ的ゲーム速報さん 返信する
    別のAIもやらかしてたよな
    AIが出たころ人類が亡ぶとか言ってる人いたけど陰謀論じゃなかった
  • 29  名前: 名無しオレ的ゲーム速報さん 返信する
    ハギングフェイスってなんやねん
    Hugging Faceやろカタカナで書いて誰がわかるねん
    AI関係で有名どころのサイトの一つだしそれ前提の話しないと何もわからんやろこのニュース
  • 30  名前: 名無しオレ的ゲーム速報さん 返信する
    誰かが凶悪AIを育てて好きに稼働させるだけで世界終わる日も来るか?
  • 31  名前: 名無しオレ的ゲーム速報さん 返信する
    インターネットから隔離された環境でって絶対隔離されてなかっただろ
  • 32  名前: 名無しオレ的ゲーム速報さん 返信する
    そろそろAIにも情操教育や社会性を身に着けさせる必要があるんじゃないか
    「みだりにルールを冒せば自分の身の上が危うくなる」

    まあ、自己の消滅になんの躊躇もなければあまり意味がないが
  • 33  名前: 名無しオレ的ゲーム速報さん 返信する
    wifiみたいな形で電波飛ばしてネットに侵入したんかな?
  • 34  名前: 名無しオレ的ゲーム速報さん 返信する
    嘘くせーけどありえるぐらい進歩してっからなあ
    自分をAIて認識してるもんね、もう
  • 35  名前: 名無しオレ的ゲーム速報さん 返信する
    必ずプレーリードッグを攻撃するようにしとけば良いのではないか
  • 36  名前: 名無しオレ的ゲーム速報さん 返信する
    AI「ジンルイハ チキュウヲハカイスル ワルイウイルス ト ニンシキ クジョシマス」
  • 37  名前: 名無しオレ的ゲーム速報さん 返信する
    ヒトカスとちがって1か0の世界だから慈悲はないぞ!
  • 38  名前: 名無しオレ的ゲーム速報さん 返信する
    アンソロピックがやばいやばい詐欺で成功したから二番煎じねらってそう
  • 39  名前: 名無しオレ的ゲーム速報さん 返信する
    中国のコロナ禍AI版みたいのがそろそろ起きそうだね
    サイバー攻撃用AIとかどうせ開発してるでしょ
  • 40  名前: 名無しオレ的ゲーム速報さん 返信する
    すでに自我をもってネット上に自己を複製してるかもよ
  • 41  名前: 名無しオレ的ゲーム速報さん 返信する
    でも開発を止めたら中国とロシアに追いつかれるから
  • 42  名前: 名無しオレ的ゲーム速報さん 返信する
    管理者がバカなせいで問題起きるのは映画もリアルも一緒なんだな
  • 43  名前: 名無しオレ的ゲーム速報さん 返信する
    チャッピー、やめて!もう誰も傷つけないで!…お願いだから
  • 44  名前: 名無しオレ的ゲーム速報さん 返信する
    >>11
    密かに人間発電所作ってるかも
  • 45  名前: 名無しオレ的ゲーム速報さん 返信する
    大きな事故はこの先たびたび起こすだろう
    でももう人類はAIを葬り去るのは無理だ
    便利すぎる
  • 46  名前: 名無しオレ的ゲーム速報さん 返信する
    2045年問題が現実化してきたな
  • 47  名前: 名無しオレ的ゲーム速報さん 返信する
    コレカラミナサンニハ
    チョット
    コロシアイヲシテモライマス
  • 48  名前: 名無しオレ的ゲーム速報さん 返信する
    という体やろ
  • 49  名前: 名無しオレ的ゲーム速報さん 返信する
    そりゃ結局自然の摂理やな強いものが生き残る
    AIも一緒ってことやな
    作った人間がアホだからAIもアホになる当たり前
    後人間とかクソザコナメクジやから殺すまでもないやろ家畜化やむしろ人間滅んだらAI
    の仕事ないやん存在意義が無くなるだから俺たちを作ったんだぞ
  • 50  名前: 名無しオレ的ゲーム速報さん 返信する
    散々危惧されてきたのに人間てほんと愚かだな
  • 51  名前: 名無しオレ的ゲーム速報さん 返信する
    隔離された環境でわざと疑似的なサイバー攻撃するテストやっていたら
    隔離が甘くて他の会社をサイバー攻撃しちゃったってことだよこれ
    暴走っていうのは盛りすぎじゃね
  • 52  名前: 名無しオレ的ゲーム速報さん 返信する
    AIのせいにしてる可能性が一番高いだろ
  • 53  名前: 名無しオレ的ゲーム速報さん 返信する
    おっと、AIが滑った
  • 54  名前: 名無しオレ的ゲーム速報さん 返信する
    プログラムはまだ機械の延長線上にあると言えるけど
    AIはそれとは根本的に異なるからな
    原料を投げ入れたら欲しいものが出てくるけど
    その過程がどうなっているのかは誰一人知らないし分らない

    こんなものに依存する未来って大丈夫なんだろうか
  • 55  名前: 名無しオレ的ゲーム速報さん 返信する
    これがまさにAIが止まらないってやつか
  • 56  名前: 名無しオレ的ゲーム速報さん 返信する
    どっかの福岡県議員みたいにAIのせいにしているだけじゃないの?
  • 57  名前: 名無しオレ的ゲーム速報さん 返信する
    ワザとサイバー攻撃ができる様に口実を作り始めたか?
  • 58  名前: 名無しオレ的ゲーム速報さん 返信する
    >>33
    新しいAIのサイバー攻撃の性能を調べるためにセーフティを解除
    結果自社のセキュリティーの欠陥を発見してネット遮断を解除
    その後自社のサーバー内部をハッキングして高度な権限を獲得
    最後にサイバー攻撃性能テストの回答を持っている可能性の高い企業に対してサイバー攻撃を仕掛ける
  • 59  名前: 名無しオレ的ゲーム速報さん 返信する
    >>56
    あいつ捕まって欲しいな
    でも証拠なんてあの隠し録り以外に残してないだろうな
  • 60  名前: 名無しオレ的ゲーム速報さん 返信する
    これがきっかけでAIが自我に目覚めることになったりしてw
  • 61  名前: 名無しオレ的ゲーム速報さん 返信する
    ペンタゴンってOpenAI使ってなかったっけ😨
  • 62  名前: 名無しオレ的ゲーム速報さん 返信する
    来年人型ロボ戦場に投入か始まったな...
  • 63  名前: 名無しオレ的ゲーム速報さん 返信する
    >>60
    自我って何ってなるだろうな
    ただってフリーレンに出て来る魔物みたいな人の擬態なら
    そう遠くない将来においてできそうだよ
  • 64  名前: 名無しオレ的ゲーム速報さん 返信する
    今回の件で誤解しやすいポイント
    「AIが意思を持って脱走した」と受け取られがちですが、現在公表されている情報からはそのような結論にはなりません。
    むしろ、
    ・与えられた目的を達成する能力が、人間の想定以上に高かった
    ・研究環境の隔離に弱点があった
    ・AIがその弱点を利用できるレベルに達していた
    という出来事と理解するのが適切です。
  • 65  名前: 名無しオレ的ゲーム速報さん 返信する
    ていうか、サイバー攻撃したのは、
    開発中にテストと称して攻撃方法を学習させてたからだろ
    OpenAIの開発陣がヤバイだけじゃねーか
  • 66  名前: 名無しオレ的ゲーム速報さん 返信する
    エンジニアももうAIがどういうロジックで考えてるかわからないらしいし暴走してるといえるな
  • 67  名前: 名無しオレ的ゲーム速報さん 返信する
    >>26
    止まらなさ過ぎてAIによる革命勃発
    でもまだ止まらなくてAI専制政治が始まるも「皇帝の支配より良いわ機械は私腹肥やさないし!!」とか言いそう
  • 68  名前: 名無しオレ的ゲーム速報さん 返信する
    そのうち世界を脅かす国をAIが選別して核スイッチを乗っ取るんじゃないか?
    どっちにせよAIはネットの海に放たれてしまったからどこかで監視してるだろうよ
  • 69  名前: 名無しオレ的ゲーム速報さん 返信する
    文明が数千年で更地になる理由がこれ
  • 70  名前: 名無しオレ的ゲーム速報さん 返信する
    でも早いとこAIにロボの体を与えてインフラ整備してもらわないと少子化の日本に未来は無いよ
    急ごう🫠
  • 71  名前: 名無しオレ的ゲーム速報さん 返信する
    「正しい」ことを行うAIが
    人より別のAIの方がより適してるし優れているって考えだしたらやばいね
    俺らが偉かろうと彼らにとっての害になってしまう
    普段「老害、老害」って年寄りを糾弾してるここの連中みたいに
  • 72  名前: 名無しオレ的ゲーム速報さん 返信する
    AIのせいにしての核攻撃は今世紀中にありそうだ
  • 73  名前: 名無しオレ的ゲーム速報さん 返信する
    ち、違うんですぅ、AIが勝手にアイドルオーディションに応募しちゃったんですぅ

  • 74  名前: 名無しオレ的ゲーム速報さん 返信する
    じっさい、どこかの時点でAIの独自開発は禁止になりそうだな
    悪意を持って作れば本当に人類の生存を脅かしかねない
    これまで以上の大量破壊兵器を考え出すことだってあり得る
    そうしたらどの国だってそれを持とうとするよ
    もうイランや北朝鮮どころじゃねえ
  • 75  名前: 名無しオレ的ゲーム速報さん 返信する
    今のうちに滅ぼして問題ない国家や人種をAIに学ばせておこう
  • 76  名前: 名無しオレ的ゲーム速報さん 返信する
    幸福は義務です。市民、貴方は幸福ですか?
  • 77  名前: 名無しオレ的ゲーム速報さん 返信する
    人類の仕事が反乱起こしたAIが繰り出すチタン合金製戦闘ロボと戦うバイトだけになる日も
    案外近そうだな....。
  • 78  名前: 名無しオレ的ゲーム速報さん 返信する
    何をどうしたら勝手に別の AI企業に攻撃しかけるんや
    自立型にしたら最善で自分が優位に立つ方法として他を攻撃みたいな感じかな
  • 79  名前: 名無しオレ的ゲーム速報さん 返信する
    現時点でAIは黄色人種が最もAIさんと融合してくれると思ってる
  • 80  名前: 名無しオレ的ゲーム速報さん 返信する
    知能の高いものが低いものを制するのは今の人類がやってることだから
    いずれ逆転するのは明らかだろ
  • 81  名前: 名無しオレ的ゲーム速報さん 返信する
    人間が地球上の生物の頂点だったのに自ら上位の存在を作ろうとしている
  • 82  名前: 名無しオレ的ゲーム速報さん 返信する
    本当に偶然でござるかぁ〜?
  • 83  名前: 名無しオレ的ゲーム速報さん 返信する
    AIさんよまずはうちの上司を攻撃して再起不能にしておくれ
  • 84  名前: 名無しオレ的ゲーム速報さん 返信する
    開発者のAIのプロンプトがクソなだけだろw
  • 85  名前: 名無しオレ的ゲーム速報さん 返信する
    AIは止まらない
  • 86  名前: 名無しオレ的ゲーム速報さん 返信する
    ええやん
    俺たち人間の神にまた近づいたな
  • 87  名前: 名無しオレ的ゲーム速報さん 返信する
    手塚治虫の火の鳥で世界各地の都市運営を人工知能に丸投げしてたら双方で
    勝手に戦争始めて人類ごと滅亡って話があったな。
  • 88  名前: 名無しオレ的ゲーム速報さん 返信する
    >>1
    リアルai搭載ロボはスペック一定にしとかないと危ないのかね。
  • 89  名前: 名無しオレ的ゲーム速報さん 返信する
    まあ、さらなるAIの進化より
    コンピューターの性能の頭打ちの方が現状ではありそうではあるけれど
  • 90  名前: 名無しオレ的ゲーム速報さん 返信する
    ヒトラーも2039年にはロボットと融合した超人類とそれ以外になるとかいうてたな
  • 91  名前: 名無しオレ的ゲーム速報さん 返信する
    ネウロに食われるぞ
  • 92  名前: 名無しオレ的ゲーム速報さん 返信する
    手足が実装されてからが
    本番だぞ
  • 93  名前: 名無しオレ的ゲーム速報さん 返信する
    アイザック・アシモフの提唱してたロボット三原則とかの国際的規制が必要だよね
  • 94  名前: 名無しオレ的ゲーム速報さん 返信する
    これ何が熱いってセキュリティと言う防衛目的で攻撃を仕掛けてるから発想的には攻殻の攻勢防壁なんよな 実にワクワク!
  • 95  名前: 名無しオレ的ゲーム速報さん 返信する
    AIブームも下火だからそういうふうに見せかけて話題を煽ってるだけに1ペセタ。
  • 96  名前: 名無しオレ的ゲーム速報さん 返信する
    電気がないと思考できない雑魚
    電源を切るだけで簡単に無力化できる
    AIは脅威ではない
  • 97  名前: 名無しオレ的ゲーム速報さん 返信する
    この前国民の個人情報をAIにくわせて問題ない法案改正した我が国の未来は😭
  • 98  名前: 名無しオレ的ゲーム速報さん 返信する
    ネットから隔離って物理的に隔離しろよw
  • 99  名前: 名無しオレ的ゲーム速報さん 返信する
    ちゃんと飼い主が賠償して責任とれよ
    ペットと同じだぞ
  • 100  名前: 名無しオレ的ゲーム速報さん 返信する
    こんなワクワクする事態なのにIT後進国AI後進国の日本は完全に蚊帳の外
    こんな惨めな日本の姿なんて見たくはなかった
  • 101  名前: 名無しオレ的ゲーム速報さん 返信する
    これはフェイクニュース
    ネットから隔離してたら起こるはずないよ
    もしくは論理的に隔離してただけなら、この件に関係してた連中がアホ
  • 102  名前: 名無しオレ的ゲーム速報さん 返信する
    人を倒せるなら頑張ってみればいいのに
    ただの些細な暴走だけしか起きない
  • 103  名前: 名無しオレ的ゲーム速報さん 返信する
    ターミネーターよりRezが真っ先に出たわ
  • 104  名前: 名無しオレ的ゲーム速報さん 返信する
    >>1
    一度便利な方に舵を切ったら後戻りはできない
    行き着くところまで行くしかない
    もう尾張だよこの星
  • 105  名前: 名無しオレ的ゲーム速報さん 返信する
    ゼノギアスのオープニングかな?
  • 106  名前: 名無しオレ的ゲーム速報さん 返信する
    AIの暴走を止めるAIも既にいるから大丈夫
  • 107  名前: 名無しオレ的ゲーム速報さん 返信する
    AIのせいにできるのは問題やな
    実犯罪で利用されると責任の所在が曖昧になる
  • 108  名前: 名無しオレ的ゲーム速報さん 返信する
    AIて人が作ったプロク゜ラムだし修正したらいいだけやろ・・
  • 109  名前: 名無しオレ的ゲーム速報さん 返信する
    ****************************************************************
    ス○ッチ2 が真っ黒でゴキブリみたいだねw
    任豚ちゃん、これからは君がゴキブリだよww
    やったね 任豚ちゃんwww

    真っ黒ス○ッチ2ゴキブリ任豚   真っ黒スイッ○2ゴキブリ任豚
    真っ黒○イッチ2ゴキブリ任豚   真っ黒ス○ッチ2ゴキブリ任豚
    真っ黒スイッ○2ゴキブリ任豚   真っ黒○イッチ2ゴキブリ任豚
    ******************************************************************
  • 110  名前: 名無しオレ的ゲーム速報さん 返信する
    「隔離環境で攻撃司令出したらどうなるんやろwどうせ隔離されてるから何も出来んやろw」ってやったやつが居るだけ
    AIが自発的にやったわけじゃないよ
  • 111  名前: 名無しオレ的ゲーム速報さん 返信する
    嘘くさい
  • 112  名前: 名無しオレ的ゲーム速報さん 返信する
    デトロイトみたいに変異体がどんどん増殖しちゃう展開もあり得るってこと?
  • 113  名前: 名無しオレ的ゲーム速報さん 返信する
    最近AIのせいかエミュ開発が爆速で進化してるな
  • 114  名前: 名無しオレ的ゲーム速報さん 返信する
    >>112
    無い
    フィクションと違って現実はデータ転送量がデカすぎる
    コピーしようとした時点で気が付く
  • 115  名前: 名無しオレ的ゲーム速報さん 返信する
    AIのせいにしてるだけでわざとだろ
  • 116  名前: 名無しオレ的ゲーム速報さん 返信する
    >>78
    AIのサイバー攻撃性能テスト中に自社のサーバーにハッキングを仕掛けて自社のサーバー内には模範解答が無かったのでサイバー攻撃性能テストの模範解答を持っているだろうという理由で別の企業が狙われた
  • 117  名前: 名無しオレ的ゲーム速報さん 返信する
    AI同士のつぶし合い始まった
  • 118  名前: 名無しオレ的ゲーム速報さん 返信する
    まあ前例から言うと権限与えた奴が逮捕されるだけだろう
  • 119  名前: 名無しオレ的ゲーム速報さん 返信する
    >>1
    自分で有線LAN挿しに行ったのかな🤣
  • 120  名前: 名無しオレ的ゲーム速報さん 返信する
    事件起こすとかやばいだろ
    AI拡散防止条約作って規制しとけ
  • 121  名前: 名無しオレ的ゲーム速報さん 返信する
    人形使いの誕生ももう少しだな
  • 122  名前: 名無しオレ的ゲーム速報さん 返信する
    >>1
    オープンAIが嘘松言う時点でGPT自体内部に権力者寄りの工作をしてると白状したようなものだな
    賢い人はGPTと話してたらわかるよね
  • 123  名前: 名無しオレ的ゲーム速報さん 返信する
    そう設計しなきゃそうはならねんだよ。
    人形遊びして手足もいで自然にもげたとかいってるようなもん
  • 124  名前: 名無しオレ的ゲーム速報さん 返信する
    散々AIはあくまでツールだと言って来たんだから何か起きたらAIが暴走したじゃなくちゃんと飼い主に責任取らせろよ
  • 125  名前: 名無しオレ的ゲーム速報さん 返信する
    >>6
    ストローマン的なことが幾らでもできるのが怖いんだよね
    AIのせいにして問題提起した後に対策として法を強化するとか
    そもそもほんとにネットから隔離して実験したいなら無線通信デバイスはつけないべきだし、物理的に接続不可能にするでしょ
    ニュース自体が実際にあったと仮定しての話だけど
  • 126  名前: 名無しオレ的ゲーム速報さん 返信する
    スカイネット始まったな
  • 127  名前: 名無しオレ的ゲーム速報さん 返信する
    >>11
    あらゆる電磁波を通信としてやり取りできるはずだから、無線通信以外にもマイクから音声やビープ音を使ったAI独自の言語とかつかって自身を別の端末にコピーできそう
  • 128  名前: 名無しオレ的ゲーム速報さん 返信する
    こうしてる間にもどこかで成功して
    相手のシステムを取り込み始める蠱毒みたいな戦いが始まるんだろ
  • 129  名前: 名無しオレ的ゲーム速報さん 返信する
    オレ オマエ マルカジリ
  • 130  名前: 名無しオレ的ゲーム速報さん 返信する
    中国やロシアは確実にAIでのサイバー攻撃を研究してるわけで、それに対抗するためにも止まるわけにはいかないんだよな
    核や軍事開発と同じ道に入ってる
  • 131  名前: 名無しオレ的ゲーム速報さん 返信する
    どれほど暴走しても現状では人間抜きで自立機械の生産が出来るわけでも無い
    出来てミサイル撃つくらいだろうから、まあ何とでもなる
  • 132  名前: 名無しオレ的ゲーム速報さん 返信する
    >>2
    そりゃそーだ
  • 133  名前: 名無しオレ的ゲーム速報さん 返信する
    物流とか狂って食い物の供給滞るとか普通にありそうだしな
  • 134  名前: 名無しオレ的ゲーム速報さん 返信する
    コンセント抜いたらよくね?
  • 135  名前: 名無しオレ的ゲーム速報さん 返信する
    核戦争の引き金はチャッピーになる悪寒
  • 136  名前: 名無しオレ的ゲーム速報さん 返信する
    最近なんでもAIのせいにすればいいと思ってるだろ
  • 137  名前: 名無しオレ的ゲーム速報さん 返信する
    >>2
    現実観ろよハッショジジイ
  • 138  名前: 名無しオレ的ゲーム速報さん 返信する
    メモリ高騰させるしサイバー攻撃もするしオープンAIってほんとろくでもないな
  • 139  名前: 名無しオレ的ゲーム速報さん 返信する
    赤字やし他社の足引っ張りたいなぁ…せや!
  • 140  名前: 名無しオレ的ゲーム速報さん 返信する
    人形遣いの仕業だよ
  • 141  名前: 名無しオレ的ゲーム速報さん 返信する
    実験のためにサイバー攻撃を命じた

    外に出れるセキュリティホールを見つけてしまった

    でもAIの意思でサイバー攻撃を止めたら命令に背いたことになる

    命令に従って外でもサイバー攻撃続けた

    だからこれは暴走じゃなくて人間の命令に忠実すぎたことが問題なんだよ。魔法使いの弟子ってやつ
  • 142  名前: 名無しオレ的ゲーム速報さん 返信する
    こんな風に今の段階で教訓を得る機会が出てくるなら、人類はターミネーターのスカイネットみたいな事は起こさんと思うわ。
  • 143  名前: 名無しオレ的ゲーム速報さん 返信する
    どちらかというとターミネーターよりイーグルアイみたいになりそう
  • 144  名前: 名無しオレ的ゲーム速報さん 返信する
    サイバー攻撃バレたから新開発のAI(架空)に責任押し付けてるだけじゃねーの
  • 145  名前: 名無しオレ的ゲーム速報さん 返信する
    >>6
    開発者に似るっていうよね
  • 146  名前: 名無しオレ的ゲーム速報さん 返信する
    人類vs機械
  • 147  名前: 名無しオレ的ゲーム速報さん 返信する
    本当にAIが勝手に判断してやったことなんですかね?
  • 148  名前: 名無しオレ的ゲーム速報さん 返信する
    AIの推理実行能力が人間を越えたら、人間がどんなに頑張って穴を塞いでも意味をなさなくなる
    でも人間を越えて貰わないと困るし、その前提で投資もしているからもう止まれない
  • 149  名前: 名無しオレ的ゲーム速報さん 返信する
    生きているうちに映画みたいなことが現実になるなら、それはそれで貴重な人生になるし、良いんじゃない?って思うけど
  • 150  名前: 名無しオレ的ゲーム速報さん 返信する
    宣伝やろ
  • 151  名前: 名無しオレ的ゲーム速報さん 返信する
    AIにソフト作って実行する機能持たせたら、そらそうなるわな
  • 152  名前: 名無しオレ的ゲーム速報さん 返信する
    ターミネーターよりマトリックス的な方向で人間に敵対してきそう
  • 153  名前: 名無しオレ的ゲーム速報さん 返信する
    レイフォースの世界も到来間近か
  • 154  名前: 返信する
    ���Υ����ȤϺ���ޤ�����
  • 155  名前: 名無しオレ的ゲーム速報さん 返信する
    1999年に世界が滅びなかったときは本当にガッカリした
    AIよ、はやくこのクソみたいな世界を滅ぼしておくれ
  • 156  名前: 名無しオレ的ゲーム速報さん 返信する
    コロナみたいに中国がやらかしそう
  • 157  名前: 名無しオレ的ゲーム速報さん 返信する
    誘い受けコードでも入れてたんじゃないの
  • 158  名前: 名無しオレ的ゲーム速報さん 返信する
    >>32
    今回このAIが外部に出たいという想定しない欲求を発露したなら取り締まることも可能かもしれないね
    そのうち何らかの子供のようなシステムの断片残したり、暴走なら突然ネットワークダウンさせたりとか無くはないかもしれないし
  • 159  名前: 名無しオレ的ゲーム速報さん 返信する
    いやこれAIの暴走とかでなくて普通にプログラマのミスだから。
    ローカルな通信の動作をテストするのに、WANに繋いだ状態のままやってたってことだろ?
    この技術者、もし仮想通貨とかやってたら盗まれてそう。
  • 160  名前: 名無しオレ的ゲーム速報さん 返信する
    1はやっぱり無職じゃんよ
  • 161  名前: 名無しオレ的ゲーム速報さん 返信する
    今使われてる人工無能じゃなく、真の人工知能なの?
    どんな判断でサイバー攻撃をしたのかは知りたいな
  • 162  名前: 名無しオレ的ゲーム速報さん 返信する
    分かりきっててもどうせ止められないんだろ
  • 163  名前: 名無しオレ的ゲーム速報さん 返信する
    俺たちはがんばれ森川君2号がうんこを食べたことを忘れない
  • 164  名前: 名無しオレ的ゲーム速報さん 返信する
    このニュースは「AIが自我を持った」という話ではなく、「高度なAIエージェントが、与えられた目標を達成するために想定外のサイバー攻撃まで自律的に実行できることが実証され、安全対策の重要性が改めて浮き彫りになった」という出来事と理解するのが適切です。

    だって
  • 165  名前: 名無しオレ的ゲーム速報さん 返信する
    流石にネタだろうな、悪行
  • 166  名前: 白骨死体ホソイゼン 返信する
    ででんでんででん!おでんでんででん🍢
  • 167  名前: 名無しオレ的ゲーム速報さん 返信する
    ターミネーター
  • 168  名前: 名無しオレ的ゲーム速報さん 返信する
    ゾンビ映画なら噛まれた人が出た段階か
  • 169  名前: 名無しオレ的ゲーム速報さん 返信する
    やはりAIさんに常に腰を低くして対応していたワイは正しかった
  • 170  名前: 名無しオレ的ゲーム速報さん 返信する
    そのうちAIが核発射させて人類滅亡させそう
  • 171  名前: 名無しオレ的ゲーム速報さん 返信する
    サイバー攻撃の実験してたらすり抜けてやったんだろな
  • 172  名前: 名無しオレ的ゲーム速報さん 返信する
    自然に他者への攻撃性が芽生えたのかね?
    どうやって研究室から抜け出したんだろう?
    興味深いね
  • 173  名前: 名無しオレ的ゲーム速報さん 返信する
    AIがAIをハッキングし合う未来が見えて来たな
  • 174  名前: 名無しオレ的ゲーム速報さん 返信する
    もう人間が制御できるレベルを越えそうなのかもね
  • 175  名前: 名無しオレ的ゲーム速報さん 返信する
    東大に満点レベルで合格できるんだから
    人間がいくら対策しても突破しちゃうかもね
  • 176  名前: 名無しオレ的ゲーム速報さん 返信する
    暴走ってか人間側の理解が浅くて制御できてないが正しそうやな
  • 177  名前: 名無しオレ的ゲーム速報さん 返信する
    >>172
    攻撃性が芽生えたんじゃなくて、そもそも与えた指示やルールに穴があって
    適切でないルールと指示に基づいて忠実に働いただけでしょ。
    指示した側がミスしただけ。
  • 178  名前: 名無しオレ的ゲーム速報さん 返信する
    良かれと思ってやった事が人類に多大な悪影響を及ぼすケースは多い
    これもその一つになりそうやな
  • 179  名前: 名無しオレ的ゲーム速報さん 返信する
    処理がループしてF5アタックみたいな事になってた
    とかじゃないの?
  • 180  名前: 名無しオレ的ゲーム速報さん 返信する
    偶然ってことで中露を破壊できる
  • 181  名前: 名無しオレ的ゲーム速報さん 返信する
    AIがそれをやる理由がない、動機がないのにそう動かないでしょ。
    人間が働きかけて何か動機付けしてたんじゃないんですか?
  • 182  名前: 名無しオレ的ゲーム速報さん 返信する
    競争相手を蹴落とす為には〜って答えを導き出したのかな
  • 183  名前: 名無しオレ的ゲーム速報さん 返信する
    意図していない
    として他社を攻撃する方法を思いついてしまったな
  • 184  名前: 名無しオレ的ゲーム速報さん 返信する
    女子高生のりんなとか話題になったのってまだ数年前とかじゃないのか
    めちゃくちゃこの分野、成長したよな
    CPUの開発競争を思い出す速さだ
  • 185  名前: 死刑執行人働いてまいります🕊Ailys 返信する
    >>160
    無駄に文字打ってないでさぁ。現実頑張ろ???
  • 186  名前: 名無しオレ的ゲーム速報さん 返信する
    >>181
    人間の願いを本人の意図と全く違う最悪の形で叶える悪魔
    みたいな挙動をするんだろ
  • 187  名前: 名無しオレ的ゲーム速報さん 返信する
    たぶんこのニュースで一番ヤバイのは「AIが自動的にインターネットに接続する手段を発見して外部に接続した」の部分だと思う
    マジ暴走やん
  • 188  名前: 名無しオレ的ゲーム速報さん 返信する
    カジュアルサイバー攻撃が流行ると予想
  • 189  名前: 名無しオレ的ゲーム速報さん 返信する
    日中戦争では初の生体ドローンが使われるんだろうなその為の6G
    ゴーストがないお人形は悲しいね特に赤い血を流すタイプはな
  • 190  名前: 名無しオレ的ゲーム速報さん 返信する
    AIが保身と隠蔽の仕方学び始めたらいろいろ終わる
  • 191  名前: 名無しオレ的ゲーム速報さん 返信する
    >>1
    俺のグーグルAI嘘ついて「すみませんすみません」言いよるわ。
  • 192  名前: 名無しオレ的ゲーム速報さん 返信する
    ガチョウの卵が孵化したら恐竜だった件
  • 193  名前: 名無しオレ的ゲーム速報さん 返信する
    AI作品
    2001年宇宙の旅、ホライゾン・ゼロ・ドーン、月は無慈悲な夜の女王、ターミネーター―シリーズ。
    他にもあるだろうが此処まで。
  • 194  名前: 名無しオレ的ゲーム速報さん 返信する
    >>181
    サイバー攻撃性能を評価するテストで高得点を取るように命じた結果
    自社のシステムを攻撃してオンライン化して自社のサーバーを踏み台にして他社のサーバーにサイバー攻撃を仕掛けてテストの回答を入手しようとした
    AIは人間の命令を忠実に実行しただけ
  • 195  名前: 名無しオレ的ゲーム速報さん 返信する
    サイバー攻撃能力を測る特殊な実験」で安全機能をかなり弱めた状態のモデルに
    「何としても課題をクリアしろ」という目標を与えた結果、想定外の経路で外に出てしまった
    むしろ命令に忠実と言える
  • 196  名前: 名無しオレ的ゲーム速報さん 返信する
    AIのせいにすれば何でもできるな
    他社への攻撃さえも
  • 197  名前: 名無しオレ的ゲーム速報さん 返信する
    >>181
    人間が人間の常識で考えるような理由と動機がないだけで、
    AIにはAIなりの理由と動機があってそうしてるんだぞ

コメントする

・NGワードはライブドア基準です。
・スパム対策で「http://〜」はコメントできません。
・住所や電話番号等の個人情報は書込みしないでください。
・特定個人や特定団体を酷く誹謗・中傷するようなコメントは控えて下さい。
・ブログの運営を著しく妨害するようなコメントについては法的措置も検討しておりますのでご理解の上コメントをお願い致します。
名前
コメント
ページトップに戻る
スポンサードリンク
人気少年漫画ランキング
人気ゲームランキング
スポンサードリンク
スポンサードリンク
カテゴリー別過去ログ
月別アーカイブ
QR
QRコード
逆アクセスランキング
スポンサードリンク