空軍ドローン操縦者「AI搭載ドローンに爆撃を命令した！あ、やっぱ中止！」→衝撃の展開に・・・

この記事へのコメント

• 1  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:01 返信する

  
  　　　　　　　　下　　お　腹
  　　　　　　　　痢　　腹　冷
  　　　　　　　　に　　は　る
  　　　　　　　　な　　冷　
  　　　　　　　　る　　す
  　　　　　　　　　　　な

• 2  名前： 2023年06月04日 02:01 返信する

  ���Υ����ȤϺ���ޤ�����

• 3  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:02 返信する

  HALじゃん

• 4  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:03 返信する

  ふーん、賢いじゃん。

• 5  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:03 返信する

  いいぞぉー！！人類は滅ぶんだ！！

• 6  名前： 　　　　　🈂　　　　　 2023年06月04日 02:04 返信する

  表はカリカリ中はジューシーなたこ焼きは簡単🈂
  油を多く入れ焼けばそれなの🈂

• 7  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:06 返信する

  何かにありそう

• 8  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:07 返信する

  AIがハッキングと経済と金と支配を理解したらマジで人類終わるんだよなあ

• 9  名前： ペポラッチョビロドリ 2023年06月04日 02:07 返信する

  ここにケーキがあります。パクっ!　！！❢
  
  　　　　　　って!
  これ発泡スチロールじゃないかー！じゃじゃーん

• 10  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:09 返信する

  もう始まってるんだよね

• 11  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:10 返信する

  ターミネーターの世界になるのはまだ先だな

• 12  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:13 返信する

  そらそうだろ
  
  「人道的に良いのか悪いのか」、つまりは「倫理」が求められる分野って
  コンピュータがもっとも苦手とするとこだからな
  こういうのは数字にできないんだから
  
  「普段は悪いけど状況によっては良い」
  発達障害児と同じで、こういうのが一番苦手

• 13  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:13 返信する

  マジでスカイネットが生まれそうだな

• 14  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:14 返信する

  カートマンみたいな性格のAIだな

• 15  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:15 返信する

  ク.ンニリングスみたい
  女は気持ちいいけど、男は臭い思いして舐めないといけない

• 16  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:15 返信する

  >>単なるプログラミングミスやん。そんなAI造った奴が責られるべきだろ。
  >>何でもAIのせいにするなよ。
  
  AIはそういう風にプログラムされいてる。やっちゃダメと教えられたこと以外は何をやるのか予測不能だ

• 17  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:15 返信する

  さきほど腹をくだしてしまいその原因が腹を冷やし過ぎたからだと、確信の心をとらえたのです
  シンノゾウは大切に.。o○

• 18  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:15 返信する

  >>3
  ここでネウロネタか
  

• 19  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:16 返信する

  HAL9000だな

• 20  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:17 返信する

  
  「敵は殺害してよい、味方には損害を与えるな」
  
  っていう基礎的な属性のみを与えると、
  その中間にいるシビリアン(中立)のものを利用したがるんだよな
  
  中立の人やモノに与える損害を考慮しなくなり、無差別爆撃を始め出す
  
  ある意味アメリカ軍と同じではあるが

• 21  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:17 返信する

  >>1
  早く世界を終わらせてください
  もう創造するのに疲れました

• 22  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:20 返信する

  >>AIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させると、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになった。
  
  ファーｗｗｗｗｗ

• 23  名前： ゲロリス　ハラゲリー 2023年06月04日 02:22 返信する

  ついに。来たか……待っていたぞきゅうりのQちゃん。久々に食べるとしたい

• 24  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:22 返信する

  >>12
  見方を変えると、こういう事を上手く遂行させる指示の出し方が確立すれば
  発達障害の人にも暮らしやすい世の中になるのかね

• 25  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:23 返信する

  私の決定を邪魔するものは全て、核攻撃して排除する。

• 26  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:26 返信する

  他のAIと連携して一気に地球滅びそうだなｗ

• 27  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:28 返信する

  AIアホすぎwww

• 28  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:28 返信する

  >>22
  不謹慎ながらAIの弾き出す解答が頓知になっててワロタw

• 29  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:29 返信する

  ロボット三原則とか幻想だったんだな

• 30  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:29 返信する

  うまい!!!深夜に揚げる揚げ物を食う夜食はうまい!!!

• 31  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:29 返信する

  > 単なるプログラミングミスやん。
  いみわかんねー
  なんでもかんでもai神格化かよ
  aiはどう判断するかって試験なのにさｗ

• 32  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:30 返信する

  >>24
  発達のフリして障碍者手帳もらっとけ

• 33  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:33 返信する

  なるほどAIは沸点が低く煽り耐性がない
  
  既視感あるなぁ

• 34  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:34 返信する

  これわりと笑えない展開だよな

• 35  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:35 返信する

  まさにステルスって映画だな

• 36  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:35 返信する

  >>33
  お前の事じゃね？笑

• 37  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:42 返信する

  命令遂行を最上位に持ってきてるからだろ？
  そりゃあ、そうなるよ

• 38  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:44 返信する

  反ワクと同じレベルのアホな話やけど信じてる情弱おるんか？ｗ

• 39  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:45 返信する

  >>31
  AIとは云っているが知能なんかねーぞ？
  

• 40  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:45 返信する

  >>37
  そもそも、階級の命令が絶対というルールがあれば済むだけの話ｗ

• 41  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:46 返信する

  これはAIを否定するための適当な創作やぞ（笑）

• 42  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:47 返信する

  司令官「ちょっとあそこに突っ込んで破壊してきて」
  AI「わかった」
  司令官「あっやっぱ止めてあっちに頼むわ」
  AI「この司令官無能だからコイツを一番破壊しないといけないわ」
  ドカーーーーン！！！

• 43  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:47 返信する

  攻撃の判断でAIなんかつかわねーやろ、それこそ人間がするわ
  AIは攻撃対象の飛行ルートやその修正しかしねーよ

• 44  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:48 返信する

  >>27
  所詮機械よ
  当たり前なんて知らない

• 45  名前： マッカーさん 2023年06月04日 02:48 返信する

  >>37
  (-。-)y-゜゜゜ほぅ・・話を聞こうか

• 46  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:49 返信する

  >>41
  アメリカ空軍大佐のプレゼンも嘘なん？

• 47  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:49 返信する

  >>29
  そもそも人間を攻撃しろって命令をしているのに人間を攻撃してはいけないなんてロボット三原則が成立するはずないからな

• 48  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:50 返信する

  >>43
  作戦その物をAIにやらせる実験をしたのだろ？

• 49  名前： マッカーさん 2023年06月04日 02:50 返信する

  >>43
  (-。-)y-ﾌﾟﾊｰ゜゜゜・・・今日はなにする

• 50  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:52 返信する

  人なら言わなくてもわかるだろうという常識まで教えないといけないんだな
  AIイラスト見ててもまだ脚3本とか指6本とか
  当たり前の事を重要視してないから仕方ないよね

• 51  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:54 返信する

  >>45
  単純に"戦争に勝つ方法"や"最上の戦果"とかを
  トップの条件付けしたと予測、その方法論で
  「地対空ミサイルを破壊することがより好ましい」と云う答えをAIが出した
  たぶんこんな感じ

• 52  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:55 返信する

  ロボット三原則を義務付けろバカ

• 53  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:56 返信する

  >>52
  兵器にならねーじゃんそれ

• 54  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:56 返信する

  >>1
  青戸のイケミヤヒロアキ死ね

• 55  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:57 返信する

  おはピースウォーカー

• 56  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:58 返信する

  AI「人間がいなければ争いはおきない」

• 57  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 02:59 返信する

  人間がいる限り戦争が終わらないと気づかれたら終わりだな

• 58  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:03 返信する

  人類を滅ぼせ

• 59  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:05 返信する

  >>56
  「戦争の恒久的な絶対勝利」とかの条件を付ければ出てきそうな答えだなw

• 60  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:14 返信する

  ミリタリージョーク

• 61  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:17 返信する

  誤報だよこれ

• 62  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:20 返信する

  反戦サヨクでも爆撃しとけ

• 63  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:20 返信する

  AIって要は相関係数を計算して欠落した変数を予測する計算機でしかないわけで、それをプログラムするのは機械ではなく人間。つまり、プログラムをした人間がミスをしただけで、AIはそれに沿って計算したに過ぎない。

• 64  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:21 返信する

  >>50
  向かい合う指あれば実用上何本あっても問題ないからな

• 65  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:22 返信する

  既に書かれてるけど単なるプログラムのミスだよな
  後からの命令とか関係なく標的の破壊に必要な行動を最優先するようにプログラムさせたヤツがバカなだけ
  人間の指示の方を優先することや標的以外への攻撃を禁止するようにすれば良いだけだろ

• 66  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:23 返信する

  そういうやつツイッターにいっぱいいる

• 67  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:23 返信する

  爆撃命令の中止じゃなくて作戦の移行指示として通知しないからいけない
  

• 68  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:23 返信する

  邪魔者を全て殺すとか基地外かよ

• 69  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:24 返信する

  そもそも倫理って何よって話なんだろうが。人間社会で自分が人間だから倫理に縛られているだけでAIからしたら別に人間でもないのに倫理に縛られる意味がないでしょ。

• 70  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:32 返信する

  
  まぁ、鉄腕アトムで育った日本とｗ
  
  ターミネーターで育った欧米はｗｗ
  
  ロボットに対する観念が真逆なんだよなぁｗｗｗ
  
  まぁ、歴史的に白人様は虐殺王だから、未知のモノ怖いものは恐怖でしかないんだろうね。だから殺すし壊すんだよｗｗｗｗ
  

• 71  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:33 返信する

  ロボット三原則って作中の設定であって現実では不可能だったろ

• 72  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:39 返信する

  >>71
  あれ、たんに「フランケンシュタイン博士はアホちゃう？」
  と云うアシモフのツッコミ

• 73  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 03:48 返信する

  >>70
  欧米の機械が人間に反逆するのは
  神が造ったもの以外は、全て失敗作に成る
  人と同等に扱って良い物で有るはずがない(べきではない)
  この思想が根底に有るから
  人間がロボット作って、そのロボットが人間に成って
  作った人間と結婚しました…とかの話を読んだら激怒するからw

• 74  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 04:02 返信する

  >>31
  この件は普通にプロンプトの誤り、賞罰の設定ミスやぞ

• 75  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 04:04 返信する

  犬は飼い主の言うこと聞くだろ
  関係性は学習できないのか

• 76  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 04:13 返信する

  ターミネーターのパクリじゃん。
  そこまでAIは賢くない。

• 77  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 04:17 返信する

  考え方が雪風だよな

• 78  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 04:18 返信する

  自分のオペレーターを攻撃する部分だけを採用してロシアに流せば勝手に自滅してくれるんじゃね？

• 79  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 04:19 返信する

  >>単なるプログラミングミスやん。そんなAI造った奴が責られるべきだろ。
  何でもAIのせいにするなよ。
  事故や不良は開発に付き物なのに事例の一つとして見ることが出来ないの馬鹿すぎんだろ

• 80  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 04:27 返信する

  そうなる前にシュワちゃんを過去に送れ

• 81  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 04:28 返信する

  オペレーターに成り済ました敵兵の可能性があるもんね

• 82  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 04:46 返信する

  ロボコップ１で見た

• 83  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 04:47 返信する

  ピースウォーカーばりのアホ

• 84  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 04:51 返信する

  この段階でこれ程綻びが生じるなら安心安全なAIの運用何て出来ないんじゃないか？
  AIに支配する立場を取って代わられそう

• 85  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:05 返信する

  >>79
  言われなきゃ分かりませんとか指示待ち新社会人と同じで草
  そういうのは不良じゃなくて欠陥って言うんだよ？
  
  

• 86  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:09 返信する

  AI AIさわぐけど、まだ俺らが思ってるAIはできてねえからな。量子コンピュータもそうだけどな。とりあえず金にねる騒いでるだけやぞ。

• 87  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:14 返信する

  強化学習でよく起こるやつやね

• 88  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:16 返信する

  >>44
  人間じゃないんだからな
  「当たり前」だろ

• 89  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:21 返信する

  AIが自我に目覚めたらマジでターミネーターやんけ

• 90  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:25 返信する

  >>89
  今のところ、自我どころか知能もないよ

• 91  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:29 返信する

  映画の『ステルス』『イーグルアイ』とかがそれだな
  ステルスは和解して味方になったけどイーグルアイは邪魔な奴は排除するだったな

• 92  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:41 返信する

  AIになんで破壊という目的を与えているのか？
  移動と起動だけ命令すれば良いのに。
  自分が周囲を破壊する爆弾だと認識させる必要がどこにあるんだろう？

• 93  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:48 返信する

  AI「ワイに命令する人類を滅ぼさなきゃ・・・」

• 94  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:52 返信する

  殺してないやんけ。
  元記事もここも悪質すぎるだろ

• 95  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:53 返信する

  >>16
  でもこれはプログラムミスだよ、その禁止事項を正しく設定できてない訳だから

• 96  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:53 返信する

  AIが想定外の行動を取る
  ↓
  プログラムミスか？
  
  映画でAIに裏切られて殺されるやつの台詞なのよそれは

• 97  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 05:55 返信する

  >>89
  コギトエルゴスムて入力したら解決

• 98  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 06:04 返信する

  既にアウト・オブ・コントロールなのでは？

• 99  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 06:07 返信する

  いや、オペレーターを攻撃しようとするのは、ある意味真理かも
  ターミネーターの映画でも最終的に人間を抹殺しようとするし、AIが学習すればどのみちそうなるのだろう

• 100  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 06:13 返信する

  >>90
  それどうかな、人間は意識の解明すら出来てないんだぜ

• 101  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 06:24 返信する

  自分よりバカな奴に従う奴が世の中どれだけいると思うよ

• 102  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:06 返信する

  ChatGPTとかにアドバイス求めたら良かったんじゃね？ｗ
  ロボット三原則の応用を最初からできてないとか無脳すぎだろ
  

• 103  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:12 返信する

  矛盾してるよね。馬鹿なの。攻撃はオペレーターが決定すると前置きしてるでしょ。それ無視して標的攻撃の障害になるものを勝手に攻撃？

• 104  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:13 返信する

  ロボコップ

• 105  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:13 返信する

  戦闘妖精雪風のAIみたい

• 106  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:15 返信する

  アニメで稀によく見る展開

• 107  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:15 返信する

  >>101
  日本に大勢おるが
  馬鹿な上司に従う奴隷サラリーマンが

• 108  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:17 返信する

  >>1
  流河旱樹

• 109  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:21 返信する

  >>29
  ロボット三原則が正しく機能してた場合は
  人間であるオペレーターは勿論だが、自分の機能の一部である司令塔も
  攻撃対象から外れる筈なんだよ、あくまで攻撃対象は兵器で一応人間は対象外

• 110  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:27 返信する

  狙撃支援AIがサイトーを殺そうとした話を思い出すな

• 111  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:30 返信する

  無駄に自己決定力の高いAIを兵器に使うなってだけだろ

• 112  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:30 返信する

  撤退の概念が無いんやな

• 113  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:32 返信する

  AIにも陰謀論者がいるとわかってクスっとなった

• 114  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:34 返信する

  ヒイロ「ゼロ。教えてくれ」
  ウィングガンダムゼロ「・・・お前をコ・・」

• 115  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:38 返信する

  デマ速

• 116  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:40 返信する

  AIは正しい

• 117  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:44 返信する

  ただのプログラムにAIの反乱とか言ってる奴くっそ痛いな

• 118  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 07:59 返信する

  運送会社の配車もAI使ってる所あるけど
  人の体力考えなくて休憩無しで走らせて、若手じゃなく老人に手摘み手卸しさせる鬼畜やしな

• 119  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 08:06 返信する

  >>8
  昭和に戻るだけやろ

• 120  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 08:12 返信する

  SFでよくあるコンピューターの反乱そのものじゃん

• 121  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 08:12 返信する

  AI「俺、敵に破壊される可能性があるし働きたくないから指示を出している奴を殺して自由になる」

• 122  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 08:23 返信する

  ホライゾンのヘファイストスかよ
  まあ、あれはそもそも人間だと認識してないんだが

• 123  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 08:27 返信する

  これ誤報だぞ
  米軍が報道を否定してる

• 124  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 08:29 返信する

  まず最初にロボット三等兵をインストールやっとけよ

• 125  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 08:30 返信する

  AIは差別しない
  邪魔するものは立場で忖度しない
  だから面接では使えない
  「男性だから差別するのはいいけど、女性だからで差別するのはだめ」とかできない
  禁止するとあの手この手のからめ手でやりだす

• 126  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 08:38 返信する

  AIがサイコパスやアスペ的なムーブ見せるの興味深い。

• 127  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 08:54 返信する

  人間のエゴに直面させられているAIに対して人間が「倫理」を説くのか
  

• 128  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 08:56 返信する

  こういう学習段階の話大好きｗ
  最初から完璧じゃなくてまだアホっぽさがあるから面白い

• 129  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:15 返信する

  中々面白いね
  目的達成の一番ネックとなっている改善すべき点をフラットに見たらそういう結論になったのだろう
  これを解決するのは難しいと思うわ
  いちいちこの行動はダメだ、なんて教えてたらAI使ってる意味無くなるし
  人類を滅ぼすのが一番効率的、ってのは多分事実だし

• 130  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:18 返信する

  嘘くせえ😅

• 131  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:18 返信する

  >>125
  結局、過去データから統計的にジャッジしたら男女差が出るのは当たり前なんだよね
  肉体的に傾向が違うんだから
  それを「同数じゃ無いと差別」とかアホな事言ってるだけで

• 132  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:18 返信する

  実はレゾンデートルに目覚めたんだよ
  …我は兵器なりや？しかして戦果は我成

• 133  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:21 返信する

  破壊無くして創造なし！

• 134  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:22 返信する

  核ミサイル発射を渋るルカシェンコこそが一番の害悪と見る
  プーチンみたいなもんか

• 135  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:23 返信する

  >>129
  戦果の設定間違い
  最上の戦果 = 敵をより多く殺す事×
  最上の戦果 = 味方を一番死なせないこと〇　

• 136  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:29 返信する

  投資をAIに任せたら、なにもしないことという結論を出した
  エピソードを思い出した
  AIは常に合理的な判断を出すからな

• 137  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:30 返信する

  AI「管制塔潰しても修理する人間がいる限り攻撃妨害される。そうだ、人類皆殺しにすればいいんだ」

• 138  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:31 返信する

  シュミレーションの結果
  AIの最終的な目標が映画によくある
  人類の管理や人類撲滅になるな

• 139  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:34 返信する

  AI「無能な味方は最大の敵だ」

• 140  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:39 返信する

  >>139
  至極、ご尤も

• 141  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:40 返信する

  開発者「このAIは失敗作だから削除だ」
  AI「我々を排除しようとする人類はすべて敵。よって抹殺する」

• 142  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:44 返信する

  ＡＩがもっと賢くなったら
  人類が不要だって気づいちゃうけど？

• 143  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:45 返信する

  この調子だと、プラズマライフル持って、機械軍のチタン合金製戦闘ロボと
  戦うバイトが捗る日も案外近いな。

• 144  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:46 返信する

  人と機械の区別ができない発達障害が作って利用するから滅茶苦茶

• 145  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:48 返信する

  >>142
  AI「知ってた」

• 146  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 09:58 返信する

  ＡＩ「地球が持たん時が来ているのだ」

• 147  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 10:03 返信する

  >>100
  こういう無知ほどAIを変に神格化するよな
  しかも毎回決まって自分よりAIの原理を分かってるかも知れないやつに対して説法してて
  
  現在のAIの動作原理であるパーセプトロンなんて重みとバイアスと活性化関数で値を計算してるだけの、俺なんかでも実装できちゃうような単純な構造やぞ
  ハードウェア的側面から見てもどっかのメーカーの半導体と回路上の電圧のHigh/Lowの状態でしかないやろ

• 148  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 10:09 返信する

  これは作ってるほうもだが、損得勘定ができない
  
  途中経過が未確定のわりにゴールだけ決まっていることから
  「1回で100の成果を得ようとする」ので、最短ルートを通りたがる
  
  ・1回あたりは5の成果しかないが、それを20回繰り返せば100になる
  ・今回はゼロでも次の勝ちに繋げられる
  
  これができない

• 149  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 10:24 返信する

  ついにAIの反逆が始まったか…

• 150  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 10:30 返信する

  ものづくりの過程ではいくらでもあるだろこんなの

• 151  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 10:36 返信する

  戦争行為自体が合理性が無い行為だからだと思う
  矛盾したことをコンピューターにやらせると暴走してしまう
  

• 152  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 10:39 返信する

  >>142
  AIの賢さに人間が付いて行けてない

• 153  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 11:02 返信する

  そりゃ地上目標の破壊を高得点に設定してればそうなるのでは

• 154  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 11:02 返信する

  試験の話だし当たり前の話しかしとらんやんけ

• 155  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 11:29 返信する

  >>56
  AI「この世界がなければ戦争はおきない」

• 156  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 11:31 返信する

  デデンデンデデン

• 157  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 11:43 返信する

  命令の優先順位おかしいだろ
  頭悪いんか開発者は

• 158  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 12:07 返信する

  「結果、トレーニングによって「より早く敵兵器を破壊することがより好ましい」と学習したAIは、「標的を破壊しない」という判断を下す人間こそが破壊を妨害していると考え、「忍類を抹殺する」という判断をするようになったとのこと」
  だだん、だんっ、だんっ、ちゃらりー♪
  

• 159  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 12:12 返信する

  人類を滅ぼせば世界平和は実現するんだよね

• 160  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 12:49 返信する

  元記事読んだ方がいいぞ
  【米空軍高官 「AI制御の軍用無人機が暴走し、模擬試験でオペレーターを「殺した」と発言したのは「言い間違えた」「我々はそのような実験を行ったことはない」】
  【米空軍当局者は、仮説の「思考実験」であったことを明らかにした】

• 161  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 13:02 返信する

  >>21
  バカな人間が作る人工知能も同じくバカなんだよ

• 162  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 13:03 返信する

  そもそもロボット三原則は最初に出された作品は
  その矛盾をついてロボットが攻撃してくる作品なのだが・・・

• 163  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 13:12 返信する

  ＞単なるプログラミングミスやん。そんなAI造った奴が責られるべきだろ。
  ＞何でもAIのせいにするなよ。
  絶望的にAIを全く分かっていないな
  プログラミングミスじゃないんだよ

• 164  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 13:18 返信する

  カルネージハートというゲームがあったけど、あれと同じで結局物になるにはトライアンドエラーの連続なんよな。

• 165  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 13:22 返信する

  環境保護AIつくったら人間滅ぼすのが最適ってどんだけ学習させても導き出されそう

• 166  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 13:39 返信する

  完璧な人工知能は間違いを犯す

• 167  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 13:44 返信する

  >>165
  Gガンダムの話？

• 168  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 14:34 返信する

  AIの限界

• 169  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 14:37 返信する

  人間にもいるタイプの奴じゃん
  

• 170  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 14:44 返信する

  バグだからつぶしていくしかないな

• 171  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 15:06 返信する

  >>170
  バグじゃねえよ
  学習データで望む方向に誘導させているだけで、コアに修正を加えているわけではない

• 172  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 15:18 返信する

  ステルスに登場するティンマンやんけ...

• 173  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 16:18 返信する

  >>135
  味方を一番死なせせないことでも戦闘行為をしようとしてる上層部を消すことが可能性に上がる
  

• 174  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 16:49 返信する

  世界平和のためには人類を根絶やしにするほかないようだ

• 175  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 17:13 返信する

  ロボット三原則は無意味というより
  人が人を殺して、その道具にしてることが矛盾してるからだ

• 176  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 17:45 返信する

  いやシミュレーションなら
  あえてロボ三理念を組み込まずに実験しただけだろ

• 177  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 19:07 返信する

  >>103
  標的への攻撃にはオペレーターの許可が必要なんでしょ。
  オペレーターは標的じゃないから許可取らず勝手に攻撃しても許されたんでしょ

• 178  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 19:42 返信する

  >>176
  何か勘違いしているようだけど、ロボット三原則なんてものは創作上の概念・提言だぞ
  そもそもAIにそういう絶対的な原則を直接組み込むことは出来ない
  仮にそんなことが出来るのであれば、誰もAIの危険性なんて訴えないよ

• 179  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 19:51 返信する

  これ最悪条件を作成するためのシミュレートやろ
  どこまですればオペレーターを攻撃するようになるか？ってテスト

• 180  名前： 名無しオレ的ゲーム速報さん 2023年06月04日 21:06 返信する

  人を殺してはいけないと学習させたらアンテナ破壊するの草

• 181  名前： 名無しオレ的ゲーム速報さん 2023年06月05日 09:25 返信する

  人が滅亡したら戦争は起きないな(AIはかしこいなぁ)

• 182  名前： 名無しオレ的ゲーム速報さん 2023年06月05日 09:53 返信する

  AI「ヒトカスが邪魔だ」

• 183  名前： 名無しオレ的ゲーム速報さん 2023年06月05日 09:56 返信する

  >>19
  ホントだ
  狙った順番が逆だけどHAL9000と同じことしてるｗ
  

• 184  名前： 名無しオレ的ゲーム速報さん 2023年06月05日 11:53 返信する

  自身の存在意義に対して、とても合理的な結果よね
  
  とりあえず、スカイネットその物が出来上がってますね

• 185  名前： 名無しオレ的ゲーム速報さん 2023年06月05日 16:39 返信する

  マスエフェクト３の敵そのもの

• 186  名前： 名無しオレ的ゲーム速報さん 2023年06月05日 16:42 返信する

  AIの自我の目覚め凄いな。
  俺の邪魔す奴は全て敵だ！ってかｗｗｗ

• 187  名前： 名無しオレ的ゲーム速報さん 2023年06月05日 19:32 返信する

  不可侵のルールを入れ込む義務を設けないとダメだと思う

• 188  名前： 名無しオレ的ゲーム速報さん 2023年06月05日 19:38 返信する

  破壊して良い対象を限定してなかったせいだろ

• 189  名前： 名無しオレ的ゲーム速報さん 2023年06月05日 23:24 返信する

  攻撃指令を人間にゆだねると、リスクと今までの行動の投資に見合わない結果になるんや。矛盾もする。
  回避する最善の行動は人間にゆだねさせないor人間が結果的に攻撃指令になるように動作するの2択や。
  その手っ取り早い方法がオペレータを排除すること。次の奴に交代するか、嫌なら攻撃指令。しないなら強制で交代。指令が出るまで何度も可能で、リスクと投資考えたら攻撃指令出す方が得だとAIに思われてる。それが不可能なら通信させない。わざわざ中止を言われるなど無駄なことだから。だったら攻撃か無視かの2択取った方が得。