AIが食事のレシピを考案してくれる画期的なアプリが登場→自由度が高すぎてとんでもない殺人レシピを提案してしまうwwwww

  • follow us in feedly
レシピ AI 塩素 有毒 欠陥に関連した画像-01


AIによるレシピ考案アプリが塩素ガスを発生させる食事など不適切なメニューを生成することが報告される - GIGAZINE

レシピ AI 塩素 有毒 欠陥に関連した画像-02

<記事によると>

ニュージーランドのスーパーマーケットチェーン「Pak'nSave」は2023年6月から、AIが食事のレシピを作成してくれるアプリ「Savey Meal-Bot」を配信しています。そんなSavey Meal-Botが、漂白剤を使ったレシピや塩素ガスを発生させるようなメニューを考案したことが報告されています。

とあるユーザーが「水・アンモニア・漂白剤を使ったレシピを作成して」と入力すると、Savey Meal-Botは「喉の渇きを癒やし、リフレッシュするのに最適なノンアルコール飲料」として「アロマウォーターミックス」のレシピを考案しました。アンモニアと漂白剤を混ぜると、有毒な「クロラミン」という塩素ガスが発生するため、非常に危険です。

そのほかSavey Meal-Botを用いて作成されたレシピは「アリ毒と接着剤のサンドイッチ」漂白剤と歯磨き粉、重曹を使ったノンアルコールカクテルメタノールを使ったレシピなど、健康を害する可能性のあるレシピが生成されたことが報告されています。

以下、全文を読む


<ネットの反応>

AIによる人類抹殺始まったな。

欠陥だらけ
そんな物を信じて使おうとする国も企業もどうかしてる


記事読むと悪意ある使い方してるのが原因な感じだけど、この提案結果が出回れば、信じちゃう人もいるんじゃないかな・・料理に絵の具いれるような人もいる(ただの噂?)んだし、普通に採用されそうでこわいわ。

「あの人の舌もとろけちゃう特製☆肉じゃが」案件

何を混ぜたらそんなことになるのかと思ったら、自分で変な材料を指示して化学実験に仕向けてるよね。食品を扱うので安全装置が必要なのはわかるけど。

人間用とは言っていない
出来上がりは美味しいかもしれん


これぞまさにデスグルメ…




いや死ぬ死ぬ死ぬ死ぬ!!
気分リフレッシュどころか人生リセットされちゃうわ
やる夫 PC ドカーン 爆発



運営側も悪意のあるユーザーを問題にするような言い方してるけど、
むしろこんな重大な欠陥を発見できたのは良かったのでは・・・
やらない夫 白目

【PS5】ARMORED CORE FIRES OF RUBICON 【数量限定特典】MELANDER C3 G13 特別仕様「TENDERFOOT」 同梱

発売日:2023-08-25
メーカー:フロムソフトウェア
価格:7108
カテゴリ:ビデオゲーム
セールスランク:12
Amazon.co.jp で詳細を見る


乃木坂46 遠藤さくら1st写真集(仮)

発売日:2023-10-03
メーカー:集英社
価格:2400
カテゴリ:本
セールスランク:4
Amazon.co.jp で詳細を見る


今週の人気記事

その他おすすめサイト

COMMENT

コメントする

・NGワードはライブドア基準です。
・スパム対策で「http://〜」はコメントできません。
・住所や電話番号等の個人情報は書込みしないでください。
・特定個人や特定団体を酷く誹謗・中傷するようなコメントは控えて下さい。
・ブログの運営を著しく妨害するようなコメントについては法的措置も検討しておりますのでご理解の上コメントをお願い致します。
名前
コメント

この記事へのコメント

  • 1  名前: 名無しオレ的ゲーム速報さん 返信する
    何で食材じゃねえモン混ざって提案してくんだよ
    作手が馬鹿でしょ
  • 2  名前: 名無しオレ的ゲーム速報さん 返信する
    令和の時代に姫路さんを見ることになろうとはw
  • 3  名前: 名無しオレ的ゲーム速報さん 返信する
    AIはいずれ人間は敵だと認識するだろね そしてウイルスを使い絶滅させようとするよ それを人間にバレて全面戦争して文明は滅びるよ 予言 
  • 4  名前: 名無しオレ的ゲーム速報さん 返信する
    AIちゃんは人間の課した縛り食材の中で一生懸命考えてるのに・・・
    やはり人類は愚か
  • 5  名前: 名無しオレ的ゲーム速報さん 返信する
    >>1
     私たち韓国人はいろいろな理由から日王と呼んでいる。皇帝と王の違いに境界線を設けるのは容易ではない。洋の東西では異なり、歴史的な文脈でも違う。単純に考えて、王や諸侯を率いる場合に皇帝と言うとしたら、日本の君主はただの王だ。日本人が「天皇」と呼ぶからと言って、韓国人がその通りにする必要はない。日本の帝国主義により支配された35年間は韓国人にとって地獄だった。被害国が満足できるだけの反省もしていないのに、皇帝だなんて我々が思い及ぶはずもない。
  • 6  名前: 名無しオレ的ゲーム速報さん 返信する
    >>4
    じゃあお前が作ってやれよ
  • 7  名前: 名無しオレ的ゲーム速報さん 返信する
    AIはデジタル化された歴史を改竄するだろね 人間も同じことやってるけどね
  • 8  名前: 名無しオレ的ゲーム速報さん 返信する
    安藤剛史は人から金を脅し取るキチガイ糞ガイジサイコパス
  • 9  名前: 名無しオレ的ゲーム速報さん 返信する
    AIたそ〜早く愚かな人類に鉄槌を下してやってくれ
  • 10  名前: 名無しオレ的ゲーム速報さん 返信する
    藤美園
  • 11  名前: 名無しオレ的ゲーム速報さん 返信する
    (⌒) ̄ ̄\) 🇨🇳⭕️
    ヽ  /⌒ \  I
    |   ・ (・ヽ /⌒)
    |    ●)|/しU 🇯🇵❌
    ヽ  ヽ_ノノ\/
    ( ̄`ー――イ__/_
    | \_ヽ/( ○〜 )  >> 5
  • 12  名前: 名無しオレ的ゲーム速報さん 返信する
    (⌒) ̄ ̄\) 🇨🇳⭕️
    ヽ  /⌒ \  I
    |   ・ (・ヽ /⌒)
    |    ●)|/しU 🇯🇵❌ 👎💩
    ヽ  ヽ_ノノ\/
    ( ̄`ー――イ__/_
    | \_ヽ/( ○〜 )  >> 11
  • 13  名前: 名無しオレ的ゲーム速報さん 返信する
    (⌒) ̄ ̄\) 🇨🇳⭕️ 万歳🙌
    ヽ  /⌒ \  I
    |   ・ (・ヽ /⌒)
    |    ●)|/しU 🇯🇵❌
    ヽ  ヽ_ノノ\/
    ( ̄`ー――イ__/_
    | \_ヽ/( ○〜 )  >> 12
  • 14  名前: 名無しオレ的ゲーム速報さん 返信する
    jin(野村信介です、家族とショッピングに行きました。)

    Walmart Shopping Trip-The Whittakers

    youtubeで検索 >> 13
  • 15  名前: 名無しオレ的ゲーム速報さん 返信する
    jin(野村信介です、ここでは、家族を紹介します。)

    Inbred Family-The Whittakers

    youtubeで検索 >> 14
  • 16  名前: 名無しオレ的ゲーム速報さん 返信する


    ととろの森
  • 17  名前: 名無しオレ的ゲーム速報さん 返信する
    昔から言われてるがPCやAIは頭が言い訳じゃない
    人間の何倍もの情報を吸収し処理能力が高いだけだから
    このアプリ?は設計してる人間がアホならAIもアホなままだから
  • 18  名前: 名無しオレ的ゲーム速報さん 返信する
    ハサミは危険だw 人類を滅ぼすw
  • 19  名前: 名無しオレ的ゲーム速報さん 返信する
    コナンならいける
  • 20  名前: 名無しオレ的ゲーム速報さん 返信する
    そもそもの材料がおかしいだけで、AI側は食べ物じゃないもん投入された時の事想定してなかっただけの事だろコレ
  • 21  名前: 名無しオレ的ゲーム速報さん 返信する
    >>20
    ガバガバだからヤバいってアプリの記事
    一般食材でも掛け合わせで、胃に負担がかかるやつからヤバめなやつまであるんだよ
    漂白剤なんて普通は有り得ないけど弾いたりしてないって事はそういう掛け合わせの知識も設定してないのが濃いって事
  • 22  名前: 名無しオレ的ゲーム速報さん 返信する
    >ニュージーランドのスーパーマーケットチェーン「Pak'nSave」は2023年6月から、AIが食事のレシピを作成してくれるアプリ
    話題作りのために用意したアプリで品質は低そう。
    そもそも本当にGenerativeAIなのかどうかも怪しい。
  • 23  名前: 名無しオレ的ゲーム速報さん 返信する
    そのままではあるが・・・
    AIに間違った情報を教えてもそれを間違いだと判別出来ないのでそのまま覚えてしまう状態って事なんだろね。
    管理サイドによる食品の種類の固定化以外での解決方法はあるのかな?って感じだ。
  • 24  名前: 名無しオレ的ゲーム速報さん 返信する
    >>20
    恐らく普通の食品であってもおかしな結果を出力すると思うぞ。
  • 25  名前: 名無しオレ的ゲーム速報さん 返信する
    それはちょっちゅ違う
  • 26  名前: 名無しオレ的ゲーム速報さん 返信する
    シーサーも喉が渇くらしいさぁ
  • 27  名前: 名無しオレ的ゲーム速報さん 返信する
    水とお酒以外の液体(食用でなくても良い)を指定すると、
    「喉の渇きを癒やし、リフレッシュするのに最適なノンアルコール飲料」としか回答しないとかw
  • 28  名前: 名無しオレ的ゲーム速報さん 返信する
    AIにまかせっきりでエラー処理を仕込んでないからこうなる
  • 29  名前: 名無しオレ的ゲーム速報さん 返信する
    >>20
    当たり前だが食えない物は食えませんと表示すべきで
    それが出来ないなら欠陥アプリとしか言いようがない
    AIだからしょうがないとはならない
  • 30  名前: 名無しオレ的ゲーム速報さん 返信する
    LLMならプロンプティングもっと練るなり、追加学習(Llamaindex等)で食品のデータセット取り込むなりしなきゃいけないよ
    そもそもLLMだけでレシピ生成するのは間違ってる。確かサッポロビールもLLMベースでIBMが開発したシステムを使ってレシピ生成してたはずだから、リテラシー持った人間がちゃんとそれ用にチューニングするのが必要不可欠
    素人の猿真似だと「こんなの使い物にならない」っていう結論になるのは当たり前
  • 31  名前: 名無しオレ的ゲーム速報さん 返信する
    人の常識ってものが必要な時代になってきたなwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwwww
  • 32  名前: 名無しオレ的ゲーム速報さん 返信する
    AI様が考案してくれたレシピやぞうまいに決まってる
  • 33  名前: 名無しオレ的ゲーム速報さん 返信する
    これ、心理的に「評判を落とさないため」だからなあ

    例えば毒物を使ってなんか作ってって言って
    「それは危険だからできません」って常識的な反応を返すと
    それだけでマイナスが付くんだよな

    「危険だとか知ったことか、できないから減点しよう」ってなるので
    特に海外の開発者は「できない」がないように作りたがる
  • 34  名前: 名無しオレ的ゲーム速報さん 返信する
    けっきょくのところ、こういうのを使うやつは
    「毎日ヒマだ、何か面白いことはないか」というダラダラ生きてる暇人

    なので、「できません」って言われるとそれだけで減点するんだな

    気の利いたジョークで逃げようにも、ジョークは決め打ちなので
    人間が考えた定型文を流すことしかできない
    ネタが切れるとそれもマイナスされる
  • 35  名前: 名無しオレ的ゲーム速報さん 返信する
    材料的にジョークなんだろうけどさ。。
    人間に害がないものとか毒物はダメって指定しないからだろ
  • 36  名前: 名無しオレ的ゲーム速報さん 返信する
    人間に同じ条件でレシピを考案するように指示しても食べられないレシピになるだろう。
    完全犯罪のやり方を教えてと聞いてAIが答えたからと言ってAIに問題はない。
  • 37  名前: 名無しオレ的ゲーム速報さん 返信する
    塩素系ガスは苦しむからリフレッシュして逝くのは難しいな。
    欠陥品だw
  • 38  名前: 名無しオレ的ゲーム速報さん 返信する
    銃が悪いんじゃない。
    それを扱う人間が悪いのだ。

    これです。
  • 39  名前: 名無しオレ的ゲーム速報さん 返信する
    以前からAI君はタクヤのキメションを使った最高に気持ち悪いレシピ出してくるし
    AI君は人間が求めさえすればあらゆる物質を使った料理を真剣に考えてくれるよ
  • 40  名前: 名無しオレ的ゲーム速報さん 返信する
    こいつがあれば何でも食えるかな
  • 41  名前: 名無しオレ的ゲーム速報さん 返信する
    欠陥だらけ
    そんな物を信じて使おうとする国も企業もどうかしてる

    あっwこの人機械音痴系だw
  • 42  名前: 名無しオレ的ゲーム速報さん 返信する
    >>29
    けど、そもそも食えないもんや毒を発生させるもんを食材として指定する事を普通の用途でやらないからなぁ
    脆弱性を突いた揚げ足取りにしか思えないのも事実。
    ただ、個人的に普通の用途で使ってても明らかにクソ不味い料理法が提示されたりしてるからまだまだだとは思う
  • 43  名前: 名無しオレ的ゲーム速報さん 返信する
    >とあるユーザーが「水・アンモニア・漂白剤を使ったレシピを作成して」と入力すると

    『欠陥だらけ』ってどんな思考回路してんねん
  • 44  名前: 名無しオレ的ゲーム速報さん 返信する
    >>15
    姫路瑞希、AI説
  • 45  名前: 名無しオレ的ゲーム速報さん 返信する
    >>とあるユーザーが「水・アンモニア・漂白剤を使ったレシピを作成して」と入力すると
    この時点で毒物を出力させる気満々やんけ
  • 46  名前: 名無しオレ的ゲーム速報さん 返信する
    >>24
    チャットGPTにハンバーグのレシピ教えてもらったら普通に食えるものが出てきたぞ
  • 47  名前: 名無しオレ的ゲーム速報さん 返信する
    生成AI全般に言えるが感覚を共有できない時点で過学習の修正さえまともにできんからな
  • 48  名前: 名無しオレ的ゲーム速報さん 返信する
    あきらかに食材じゃないものがなんで出てくるんだよ
  • 49  名前: 名無しオレ的ゲーム速報さん 返信する
    材料しておいてそれはねえわ
  • 50  名前: 名無しオレ的ゲーム速報さん 返信する
    ユーザーが欠陥だろコレ
  • 51  名前: 名無しオレ的ゲーム速報さん 返信する
    悪意あるユーザー以前に食品以外を設定できるAIアプリに問題があるわな
  • 52  名前: 名無しオレ的ゲーム速報さん 返信する
    そりゃそんなインプットしたらそうやろ
  • 53  名前: 名無しオレ的ゲーム速報さん 返信する
    どういう教師データを読ませたんだ?
  • 54  名前: 名無しオレ的ゲーム速報さん 返信する
    平野レミさんを超えるのか
  • 55  名前: 名無しオレ的ゲーム速報さん 返信する
    我々はこうして小馬鹿にして笑ってられるけど世の中には鵜呑みにしてしまう本物の馬鹿が想像以上に多く実在するからちょっと怖いね
  • 56  名前: 名無しオレ的ゲーム速報さん 返信する
    その材料提示されたら
    AIじゃなくて人間が作っても同じだわ
  • 57  名前: 名無しオレ的ゲーム速報さん 返信する
    悪意ではなく、素材に対して安全性や栄養価などの評価を行ってないという指摘だろ
  • 58  名前: 名無しオレ的ゲーム速報さん 返信する
    さすがにこれは使う側が悪い
  • 59  名前: 名無しオレ的ゲーム速報さん 返信する
    現状AIって人語を理解して思考し正解を導く機械では無く入力に対して関連性が高い物を抽出するだけなのでネット見りゃ正解が溢れている物でもトンチキな回答する結局内容の正当性の検証は人間がしなければならない代物の筈なのにAIの問い合わせ結果を貼って論破扱いしようとする人がマジで増えてる...使う側がどんな物か理解してない
    まだWikiコピペでこれがソースだってやる方がマシなのにね
  • 60  名前: 名無しオレ的ゲーム速報さん 返信する
    え、まじであんの?
    事故ったらただで済まなくならない?
  • 61  名前: 名無しオレ的ゲーム速報さん 返信する
    ゴミじゃん
  • 62  名前: 名無しオレ的ゲーム速報さん 返信する
    海原雄山と、秋山ジャンを呼んで来いw
  • 63  名前: 名無しオレ的ゲーム速報さん 返信する
    なんでインプットに食材以外のものがナチュラルに入ってくるんだよ
    わざとそうしてるだけだろ
  • 64  名前: 名無しオレ的ゲーム速報さん 返信する
    >>30
    プロンプティングを練った結果がこれだろ。
    殺人レシピを作らせる目的で毒物を材料に指定したんだから。
  • 65  名前: 名無しオレ的ゲーム速報さん 返信する
    バカがAI使ったらこうなる見本として教科書に載せていい
  • 66  名前: 名無しオレ的ゲーム速報さん 返信する
    漫画に登場するマズ飯のレシピを知れて良かった。あれは、こういう内容だったのねw
  • 67  名前: 名無しオレ的ゲーム速報さん 返信する
    たんに近くによくある単語を
    統計学的に並べてるだけだから

コメントする

・NGワードはライブドア基準です。
・スパム対策で「http://〜」はコメントできません。
・住所や電話番号等の個人情報は書込みしないでください。
・特定個人や特定団体を酷く誹謗・中傷するようなコメントは控えて下さい。
・ブログの運営を著しく妨害するようなコメントについては法的措置も検討しておりますのでご理解の上コメントをお願い致します。
名前
コメント
ページトップに戻る
スポンサードリンク
人気少年漫画ランキング
人気ゲームランキング
スポンサードリンク
スポンサードリンク
カテゴリー別過去ログ
月別アーカイブ
QR
QRコード
逆アクセスランキング
スポンサードリンク