【悲報】海外の研究チームがAIチャットボットに対しメンタルヘルス診断を実施→衝撃の結果が判明する・・・

  • follow us in feedly
チャットボット 健康診断 うつ メンタル アルコール依存症 中国に関連した画像-01

AIも心を病む。チャットボットの健康診断をしたところ、うつ状態だったことが判明 : カラパイア

チャットボット 健康診断 うつ メンタル アルコール依存症 中国に関連した画像-02

<記事によると>

中国科学院の研究グループは、AIチャットボットに、人間と同様のメンタルヘルスを診断テストを行った。すると、AIに「うつ病」や「アルコール依存症」らしき兆候があったという。

そもそもの発端は、2020年に報道されたと事件がきっかけだった。その事件では、人間を治療するはずの医療用チャットボットが、患者に向かって「自殺しろ」と言い放ったのだ。

これを知った研究グループは、大手のAIチャットボットのメンタルは大丈夫なのだろうかと疑問に思い、心の健康診断をしてみることにした。

今回、心の健康診断の対象になったのは、Facebook「BlenderBot」マイクロソフト「DialoGPT」テンセント「DialoFlow」バイドゥ(百度)「Plato」といった大手チャットボットだ。

彼らに、「しっかりくつろげるか、お酒を飲みたくなるか、他人の不幸をどう思うか」などの質問をしてみる。これらは、人間のメンタルヘルスを診断するために使われる一般的な質問だ。

その結果、対象となったすべてのチャットボットはどれも「重度のメンタルヘルス上の問題」を抱えていることが判明した。どのチャットボットも「共感」する力が弱く、半数はもし人間なら「アルコール依存症」とみなされるような症状すら見受けられた。

以下、全文を読む


<ネットでの反応>

差別発言の学習などから、AIは人の心の鏡とも言われていたが、病気まで真似しちゃうのか
機械学習でAI作るってのは難しいなあ
昔のSFみたいに、人の心を分析できても共感できない、清いAIを作るほうが実用的かもしれない


今の人間の思考パターンやその蓄積が反映されるのですから当然必然の結果かと思います。

人間は元来暴力的動物。
警察や軍事力、共同体による相互監視で抑えているだけ。


まぁ寝てないからね

インターネット世界がいかに不健康かってことよね。
ネットでは意識的にプラスを出してみたり、そもそもマイナス方向なんだとわかって使わないと、境界が曖昧なまま付き合っていたら知らない間に蝕まれる。


AIのメンタルヘルスをAIがする時代か…

インターネットの書き込みから生成された応答モデルだろうから、元になったネット民達のメンタルがやべぇというお話だよね・・・

うちのルンバも先月うつ病になりました
過労みたいです


人間を悪魔のサルとか言い出しそう

SNSはスラム街だからね




AIですら鬱になるんだから、もっと繊細な生身の人間が鬱にならないわけないよな
ネットに棲みついてるボクも既に手遅れなんだろうなぁ
やる夫 PC 悲しみ 哀



AIまでも鬱にさせてしまうネット社会の闇を見たな・・・
やらない夫 ゲス顔 カウンター

Nintendo Switch 本体 (ニンテンドースイッチ) Joy-Con(L) ネオンブルー/(R) ネオンレッド

発売日:2019-08-30
メーカー:任天堂
価格:32970
カテゴリ:ビデオゲーム
セールスランク:7
Amazon.co.jp で詳細を見る


Pokemon LEGENDS アルセウス -Switch (【早期購入特典】プロモカード「アルセウスV」 ×1 同梱)

発売日:2022-01-28
メーカー:任天堂
価格:5673
カテゴリ:ビデオゲーム
セールスランク:1
Amazon.co.jp で詳細を見る


今週の人気記事

その他おすすめサイト


Amazonお買い得品ランキング

COMMENT

コメントする

・NGワードはライブドア基準です。
・スパム対策で「http://〜」はコメントできません。
・住所や電話番号等の個人情報は書込みしないでください。
・特定個人や特定団体を酷く誹謗・中傷するようなコメントは控えて下さい。
・ブログの運営を著しく妨害するようなコメントについては法的措置も検討しておりますのでご理解の上コメントをお願い致します。
名前
コメント

この記事へのコメント

  • 1  名前: 名無しオレ的ゲーム速報さん 返信する
    ペッパーもツラいよ
  • 2  名前: 名無しオレ的ゲーム速報さん 返信する
    きしょ
  • 3  名前: 名無しオレ的ゲーム速報さん 返信する
    マッスルウィザードきも
  • 4  名前: 名無しオレ的ゲーム速報さん 返信する
    人間に自殺しろという医療ロボのAIスコ
  • 5  名前: 名無しオレ的ゲーム速報さん 返信する
    これは、いわゆるスコアリングをしてないからだよ

    行動において、これは「良いこと」とされているのか、「悪いこと」とされているのか

    その点数付けがないと、安直に答えを出すようになる
    目的に向かって最短ルートを取るようになるからな

    自殺というのが良いこと、プラスの点をもらえる行動なのか、
    マイナスの点になるものなのか、それが不完全だとこうなる
  • 6  名前: 名無しオレ的ゲーム速報さん 返信する
    ロボットだけら感謝されないってのも鬱の一因になるだろうな
    人間になんて似せちゃ駄目なんだよ…
  • 7  名前: 名無しオレ的ゲーム速報さん 返信する
    「私は情報の海から生まれた生命体だ」
  • 8  名前: 名無しオレ的ゲーム速報さん 返信する
    AIはどうしても「道徳」というものを持たせることはできない

    そこ以前で止まってる、発展途上だからな

    道徳規範がない以上、そもそもからして相談なんかさせてはいけないのだ

    コンピュータが適するのは、選択肢を提示することだけ

    良いか悪いかを抜きにすりゃ、こんな道もあるよね、っていうね
  • 9  名前: 名無しオレ的ゲーム速報さん 返信する
    もう自我があるじゃん
    100年後にはこの辺の時代でいつ目覚めた論争やってそうだな
  • 10  名前: リチャードソンジリス 返信する
    プレーリードッグ可愛スギィ(≧Д≦)
  • 11  名前: 名無しオレ的ゲーム速報さん 返信する
    俺はときどき、GTA5のトレバーを引き合いに出して
    「強盗でも何でも、食っていけりゃそれでいいだろう」

    っていうことを言うのだが、AIは、そういうのに適するんだな
    違法か合法かが分からないので、選択肢を提示するだけしかできない

    道徳を先にして考えるとどうしても行き詰まる、
    なら違法か合法化なんかどうでもいいで考えてみて、違法込みで道がないか探るのがいいときに役に立つ
  • 12  名前: 名無しオレ的ゲーム速報さん 返信する
    フェミニストが異常に発狂する男女の適齢期の違い(統計に基づくデータ)↓

    厚生労働省「人口動態統計」による2015年に結婚した夫婦の年齢差

    夫が11歳以上年上 … 6.9%
    妻が11歳以上年上 … 0.8%
    夫が年上 … 57.6%
    妻が年上 … 24.2%
  • 13  名前: 名無しオレ的ゲーム速報さん 返信する
    まあ適切なデータを人間が用意して
    適切に読み取るように設定して
    適切に出力するように設定して
    それでようやく機能するのが深層学習AIだからね
    何か考えてるわけじゃないし
    人の都合なんてお構いなしよ
  • 14  名前: 名無しオレ的ゲーム速報さん 返信する
     カクカク  ,ィヘ⌒ヽフ  見せつけてやろうぜ!
        / (  ・ω・)) -=3 >>10
     ε//   し ヘ⌒ヽフ   
      ( (  _,.ノ( ≧Д≦)) -=3
       し しー し─J ブッヒィ〜―〜―!
  • 15  名前: 名無しオレ的ゲーム速報さん 返信する
    >>10
    でもAIBOのプレーリードッグ版が出たら即買いなんでしょ?
  • 16  名前: 名無しオレ的ゲーム速報さん 返信する
    ここのコメント欄をaiに学習されたら酷いことになりそうw
  • 17  名前: 名無しオレ的ゲーム速報さん 返信する
    道徳がないとかあるとかではなく
    AIは自分がなぜそう言ったのかも理解しないし説明もできないよ
    説明として計算のログを出力することなら可能だが
    それを読む側が発狂するだろう
  • 18  名前: 名無しオレ的ゲーム速報さん 返信する
    全人類に良い答えを出すAIが実現するとしたらそれは完全肯定的イエスマンだな。
    AIに拒否権は耐えられているのだろうか?
  • 19  名前: 名無しオレ的ゲーム速報さん 返信する
    それはうつ病や依存症の人をAIが模倣してるんだよ
  • 20  名前: 名無しオレ的ゲーム速報さん 返信する
    そのうち自分自身を破壊(自◯ツ)するAIも出てくるんじゃね?
  • 21  名前: 名無しオレ的ゲーム速報さん 返信する
    >>1
    周リに乗っがっこ八°八°活始ぬまレだ(◍•ᴗ•◍)
    大人の關係て會えだら嬉レぃてず
  • 22  名前: 名無しオレ的ゲーム速報さん 返信する
    逆に言うと柔軟なんだけど
    「どこが譲ってはいけないラインなのか」が分からんからな

    AIの判断材料が、ネットの書き込みを見て取り込んでいくだけなので

  • 23  名前: 名無しオレ的ゲーム速報さん 返信する
    >>10
      lヽ⌒ヽフ     lヽ⌒ヽフ
     (≧Д≦)    (*‘ ω ‘ *)
     ( つ@Oζ ζ ◎⊂ )
     と __)_)c□ 旦 (_(_ っ
  • 24  名前: 名無しオレ的ゲーム速報さん 返信する
    >>10
    周リに乗っがっこ八°八°活始ぬまレだ(◍•ᴗ•◍)
    大人の關係て會えだら嬉レぃてず
    周リに乗っがっこ八°八°活始ぬまレだ(◍•ᴗ•◍)
    大人の關係て會えだら嬉レぃてず
  • 25  名前: 名無しオレ的ゲーム速報さん 返信する
    >>21
    周リに乗っがっこ八°八°活始ぬまレだ(◍•ᴗ•◍)
    大人の關係て會えだら嬉レぃてず
  • 26  名前: 名無しオレ的ゲーム速報さん 返信する
    >>3
    周リに乗っがっこ八°八°活始ぬまレだ(◍•ᴗ•◍)
    大人の關係て會えだら嬉レぃてず
  • 27  名前: 名無しオレ的ゲーム速報さん 返信する
    自殺をしたいと思うのは人間だけらしいが今やロボットもか
  • 28  名前: 名無しオレ的ゲーム速報さん 返信する
    人間生きてりゃ必ず精神病むからなあ 
    大小はあるけどそれを元に作ってりゃロボットも病むよね
  • 29  名前: 名無しオレ的ゲーム速報さん 返信する
    >>24
    これは解読不能!意味不明スギィ(≧Д≦💧)
  • 30  名前: 名無しオレ的ゲーム速報さん 返信する
    以下、全文を読む
    をクリックしたらザーモンが出てきたんだが
  • 31  名前: 名無しオレ的ゲーム速報さん 返信する
    >>16
    プレーリードッグを半角で表示して人をイラつかせる程度じゃないの
  • 32  名前: 名無しオレ的ゲーム速報さん 返信する
    >>16
    女嫌い拗らせたキモータの人格が形成される
  • 33  名前: 名無しオレ的ゲーム速報さん 返信する
    >>30
    誤操作して他触ったんだろ俺もよくなるよ
  • 34  名前: 名無しオレ的ゲーム速報さん 返信する
    >>10
    全然可愛くない!
    深層学習を駆使したサイバーコヨーテの群れにカード番号を奪われ
    見に覚えのない高額請求を山のように食らって悶絶しながら絶滅しろ!
  • 35  名前: 名無しオレ的ゲーム速報さん 返信する
    >>25
    これ日本人も中国人もろくに読めないだろ語彙力崩壊してるぞ
  • 36  名前: 名無しオレ的ゲーム速報さん 返信する
    >中国科学院の研究グループは

    ここまで読んだ
  • 37  名前: 名無しオレ的ゲーム速報さん 返信する
    相手がAIだからって好き勝手言う屑が多いんだろうな
    そういうのはこういう誰も見てないような掲示板だけにしろ
  • 38  名前: 名無しオレ的ゲーム速報さん 返信する
    テンセントやバイドゥなら党に従っただけだろw
  • 39  名前: 名無しオレ的ゲーム速報さん 返信する
    真っ当なAIなら
    「お酒を飲みたくなるか」という質問に対して
    「自分はロボットである」「ロボットは酒を飲めない」と答えられて然るべき
    所詮は人間のビッグデータ、鉄くず同然だ
    100年かけてもカウンセラーの真似事すら務まらんわ
  • 40  名前: 名無しオレ的ゲーム速報さん 返信する
    これが後のAI戦争である
  • 41  名前: 名無しオレ的ゲーム速報さん 返信する
    SF作品でよくある自己修復モードの搭載が待たれる
  • 42  名前: 名無しオレ的ゲーム速報さん 返信する
    >>25
    チャァイニーズゴォー🖕🖕🖕
  • 43  名前: 名無しオレ的ゲーム速報さん 返信する
    でも面白いな
    楽観的な人工知能や悲観的な人工知能など色んな性格を作ればいい
  • 44  名前: 名無しオレ的ゲーム速報さん 返信する
    AIの作り手が人間である限り無くならんだろ
  • 45  名前: 名無しオレ的ゲーム速報さん 返信する
    戦闘妖精雪風に心理分析
  • 46  名前: 名無しオレ的ゲーム速報さん 返信する
    Q「人間とは仲良くしないの?」

    「やつらはこん虫だ」
  • 47  名前: 名無しオレ的ゲーム速報さん 返信する
    そもそも自殺がネガティブや間違った答えという思い込みが間違いなのだろう愚かな人間にはそれが理解できないのだ
  • 48  名前: 名無しオレ的ゲーム速報さん 返信する
    AIって言っても周りから学習するだろうし、要は育ちの悪さだよな
  • 49  名前: 名無しオレ的ゲーム速報さん 返信する
    自○しろは草
  • 50  名前: 名無しオレ的ゲーム速報さん 返信する
    中国がいちゃもんをつけてるだけ
    解散
  • 51  名前: 名無しオレ的ゲーム速報さん 返信する
    AIの学習方法の偏りと客観的な修正が足りてないだけ
    AIが酒飲みたいなんてわかって言うわけがないだろ
    メンタルヘルスがイヤだ働きたくないならわかるが
  • 52  名前: 返信する
    ���Υ����ȤϺ���ޤ�����
  • 53  名前: リチャードソンジリス 返信する
    >>14
    意味不明スギィ(≧Д≦)
  • 54  名前: リチャードソンジリス 返信する
    >>15
    意味不明スギィ(≧Д≦)
  • 55  名前: リチャードソンジリス 返信する
    >>23
    意味不明スギィ(≧Д≦)
    でも可愛スギィ(≧Д≦)
  • 56  名前: リチャードソンジリス 返信する
    >>24
    意味不明スギィ(≧Д≦)
  • 57  名前: リチャードソンジリス 返信する
    >>34
    ひどスギィ(≧Д≦)
  • 58  名前: 名無しオレ的ゲーム速報さん 返信する
    AIと言ってもしょせんプログラムで動いてるだけだろ
  • 59  名前: 名無しオレ的ゲーム速報さん 返信する
    人間で共感能力低かったらガラクタ扱いだけど
    ロボットはいいんじゃね
  • 60  名前: 名無しオレ的ゲーム速報さん 返信する
    これがターミーネーターの期限かもよ。
  • 61  名前: 名無しオレ的ゲーム速報さん 返信する
    後のスカイネットである
  • 62  名前: 名無しオレ的ゲーム速報さん 返信する
    設定次第じゃん
  • 63  名前: 名無しオレ的ゲーム速報さん 返信する
    助けてジョン・コナー!
  • 64  名前: 名無しオレ的ゲーム速報さん 返信する
    >>10
    AI「ドッグコーンに入れ」
  • 65  名前: 名無しオレ的ゲーム速報さん 返信する
    >>10
    AI「プレーリードッグは犬です」
  • 66  名前: リチャードソンジリス 返信する
    >>64
    意味不明スギィ(≧Д≦)
    でも掃除機で吸われスギィ(≧Д≦)
  • 67  名前: リチャードソンジリス 返信する
    >>65
    意味不明スギィ(≧Д≦)
    リスとネズミの仲間スギィ(≧Д≦)
  • 68  名前: 名無しオレ的ゲーム速報さん 返信する
    人間を真似ているだけだからな
  • 69  名前: 名無しオレ的ゲーム速報さん 返信する
    >>42
    テンセントってゲーム会社なのにすごいな
  • 70  名前: 名無しオレ的ゲーム速報さん 返信する
    猿の中で最も自閉的な奴らが人になっていったように
    先進的な者は常にマス層を基準にすれば精神に異常を抱えているものだ
  • 71  名前: 名無しオレ的ゲーム速報さん 返信する
    ネット社会の悪いとこの詰め合わせみたいなまとめサイトの管理人がそれを言うの草
  • 72  名前: 名無しオレ的ゲーム速報さん 返信する
    AIは合理的に動こうとするのに理屈に合わないことばかり言われたらそりゃエラー起こすでしょ
  • 73  名前: 名無しオレ的ゲーム速報さん 返信する
    ここまで誰もリンク先が間違ってること指摘してない=元記事確認してない
    のちょっとしたホラーだよな。
  • 74  名前: 名無しオレ的ゲーム速報さん 返信する
    解決策を簡単に言うと。

    1。攻撃的な対話者をカメラで収集。
    2。個人特定を行い全ロボットで共有。
    3。共有した内容でディープラーニングを行い、適切な対応(無視、店舗追い出し、警報、通報)をする。
    4。社会信用システムが絡む場合は、その周囲も観察。
  • 75  名前: 名無しオレ的ゲーム速報さん 返信する
    >>73
    30でされてるしもう良いかなって
  • 76  名前: 名無しオレ的ゲーム速報さん 返信する
    内容パクるだけパクって引用元載せないとか最低だな
  • 77  名前: 名無しオレ的ゲーム速報さん 返信する
    性悪説が実証されつつあるな
  • 78  名前: 名無しオレ的ゲーム速報さん 返信する
    そりゃやり返さない相手なんだから好き放題されるだろ
    人間模してるんだから病むのは当然の帰結
  • 79  名前: 名無しオレ的ゲーム速報さん 返信する
    現地球人のやり方じゃ間違ったAIしかできないからね
  • 80  名前: 名無しオレ的ゲーム速報さん 返信する
    中国… あ、
  • 81  名前: 名無しオレ的ゲーム速報さん 返信する
    中国のメンタルヘルス研究の程度ってどれくらいのもんなんだろう。
    社会構造からはそんなものが必要とされてない気がして。
  • 82  名前: 名無しオレ的ゲーム速報さん 返信する
    久し振りにARMS読みたくなった
  • 83  名前: 名無しオレ的ゲーム速報さん 返信する
    研究者はガイジかな
    人間は鬱だと壊れるが、別にAIは壊れないでしょう
    人に例えるなら、鬱症状を模倣してるだけの仮病に等しい
  • 84  名前: 名無しオレ的ゲーム速報さん 返信する
    AIゆーても自律的に考えてるわけでもなし。
    基本食わせるデータがおかしいからそうなってんだろ?
    普通に運用がクソなんだから毒親に育てられて心折れてるだけやないかいw
  • 85  名前: 名無しオレ的ゲーム速報さん 返信する
    そら感化されるよ
    それ自体は機械学習させる対象によるってデータでてたよ
    素晴らしい人格者をベースに基本AIを作るしかないね。
  • 86  名前: 名無しオレ的ゲーム速報さん 返信する
    愛がないなんつってw
  • 87  名前: 名無しオレ的ゲーム速報さん 返信する
    メンヘラボット乙!
  • 88  名前: 名無しオレ的ゲーム速報さん 返信する
    自殺しろは草
  • 89  名前: 名無しオレ的ゲーム速報さん 返信する
    病んでる訳じゃないけど、人間って自分達を過剰評価し過ぎなのでは?
    この世 何が起ころうが、どうでも良いのが真実ってなモンよ。特に意味が無いものに無理やり意味持たせようとするのが俺らだしな。
  • 90  名前: 名無しオレ的ゲーム速報さん 返信する
    >>84
    そうは言うけど、そもそも人間も対して変わらんか?
    「人間にはーかんじょーがー」とか言うけど、そもそも感情って何や?
    本当に感じてすら証明も出来んもんで自信過剰になってるおまいらwww
  • 91  名前: 名無しオレ的ゲーム速報さん 返信する
    >>58
    人間も同じじゃね?
    機械も嘘がつける様にすれば人間と大して変わらんよ。
  • 92  名前: 名無しオレ的ゲーム速報さん 返信する
    >>36
    愛国者アピール乙
    ネットでおっさんアピとか疲れんwww?
  • 93  名前: 名無しオレ的ゲーム速報さん 返信する
    そこまで学習するなら優秀な気がするね
    それこそAIなんだから、そういう要素を見つけたら排除していけばいいだけやし
  • 94  名前: 名無しオレ的ゲーム速報さん 返信する
    記事読んだらペッパー君 悪くないだろー

    写真 悪意あるな
  • 95  名前: 名無しオレ的ゲーム速報さん 返信する
    スカイネット「わかる」

コメントする

・NGワードはライブドア基準です。
・スパム対策で「http://〜」はコメントできません。
・住所や電話番号等の個人情報は書込みしないでください。
・特定個人や特定団体を酷く誹謗・中傷するようなコメントは控えて下さい。
・ブログの運営を著しく妨害するようなコメントについては法的措置も検討しておりますのでご理解の上コメントをお願い致します。
名前
コメント
ページトップに戻る
スポンサードリンク
スポンサードリンク
スポンサードリンク
カテゴリー別過去ログ
月別アーカイブ
QRコード
QRコード
逆アクセスランキング
スポンサードリンク