■X(Twitter)より
読んでいて胸糞悪くなってきた。若者が好んで見ていた動画からこの子が何らかの悩みを抱えているとアルゴリズムが推定して、「向こうからくる電車にちょっと飛び込めば悩みから開放されるよ」という動画を送りつけたTikTok。その配信二日後に彼は列車に飛び込み命を経った。https://t.co/ikFSEJxmSh
— MASA Nakamura (@masayang) April 18, 2024
彼の死後一年、両親が彼のiPadを開けてTikTokを起動すると「痛みから解き離れたいのなら、死は恵みだ」「散弾銃を加えてちょっと引き金をひいてみる」そんな動画が出てくる。TikTokは彼が死んだことを知らないから。
— MASA Nakamura (@masayang) April 18, 2024
そりゃ米国議会は全力でこのアプリを禁止するわけだ。そしてトランプは正しかった。
小説にありそうだな、サブリミナル効果による自殺させ屋みたいな。実際は、似たような動画にイイねか検索したから無機質に自動的にでてきたんだろうけど。でも、TikTokが原因じゃなくても誰かの一言だったりテレビ小説音楽なんでも引き金にはなるけど
— のの (@anycno) April 18, 2024
元記事(ブルームバーグ)読めばわかりますが、彼が積極的に自殺動画を見に行ったわけではないようです。検索語をもとにTikTokが用意した自殺教唆動画を強制的に見させられていた模様 https://t.co/T4ATYMKwc3
— MASA Nakamura (@masayang) April 18, 2024
元記事読むとわかりますが、彼がよく検索してたのは「バットマン」「ウエイトリフティング」その他元気が出る言葉、だったそうです。
— MASA Nakamura (@masayang) April 18, 2024
それに対してTikTokは「鬱」「絶望」「死」をテーマとする動画をお勧めで上げるようになってきた。彼が積極的に自殺の動画を検索してたわけではないようです。
<ネットでの反応>
これ今のXも同じだと思う
積極的に自死や鬱について検索したりしないのにおすすめ欄にはそういうアカウントやポストが出てくる
どのソーシャルメディアやSNSでも同じだけどある程度の規約があっても簡単に詐称して抜けられる年齢制限とか、あまりにも未成年に対して悪影響が大きすぎる
水原の件で、薬物依存被害者の会のポストにいいねしたら、コカイン売りますみたいなオススメが流れるようになったのでXのアルゴリズムもヤバい
このアルゴリズムに規制かかってないのヤバくない?ここだと4️⃣3️⃣2️⃣関連のポストクリックすると広告で「悩みがあるなら〜」って命のダイヤルの案内出てくるのと同じメカニズムで「線路にダイブ!」の動画送り付けるってことだろ?
アプリ提供側の怠慢だよコレ
興味関心を拾って提案するAIのダークサイドはシャレにならない。
𝕏でも既にネガティブな情報がTLに増えて精神的な影響を強く受けている人は多いはず。
マジかよTikTok。AIが悩み解決の手段に「この世からの旅立ち」を持ってくるとは…。
TikTokのアルゴリズムはどういう考察で「この青年に死を提供すれば、状況を解決できる」判断したんだろう。どういうプログラミングを働かせてるんだ…。
これはマジで最悪な事例だな・・・規制したい人の気持が理解できるよ
[ 酷い話・事件の記事一覧 ]
今週の人気記事
その他おすすめサイト
この記事へのコメント
-
- 1 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:33 返信する
- うんち
-
- 2 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:33 返信する
-
まぁなんか最近はXがおかしいのは感じるわ
-
- 3 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:34 返信する
- なんでやねん!
-
- 4 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:35 返信する
- 間引き作戦ってこと?
-
- 5 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:37 返信する
- 言ってることにはある程度共感するけど誤変換があまりにも多くて嫌気がさしてきた
-
- 6 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:37 返信する
-
>>1
自殺を禁止するのは偽善者
止めるお前は一生苦痛のない生活を保障できるのか?
-
- 7 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:38 返信する
- こいつがそういう動画ばっか見てただけだろw
-
- 8 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:39 返信する
-
AIに人生相談してたらAIがだんだんあなたが愛してるのは私だけみたいな誘導始めて
ついにジサツした小説みたいな事件も海外であったけど
あれは真偽不明だっけか
-
- 9 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:40 返信する
- エロに誘導してたら救われた命だった
-
- 10 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:41 返信する
- おすすめ動画として出てきても見続けたのは自分の責任じゃないの?
-
- 11 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:41 返信する
-
>>4
だろうね
他国の人口が減ったら自国の人間を送り込みしたいやもしれん
-
- 12 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:42 返信する
- ようまだクソ中華アプリ使ってんな
-
- 13 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:42 返信する
-
子供に自殺される親は出来損ないだからな、自分の失敗を認めたくなくて娯楽のせいにする
ネットがない頃からそうだよ
-
- 14 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:42 返信する
-
ひどい話だな
マットデイモン主演で映画化した方がいい
-
- 15 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:43 返信する
- いや アメリカが禁止した理由はそこじゃねえだろ
-
- 16 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:43 返信する
- 自殺するような苦しみを背負ってたのに親には相談せずTikTokの言うこと聞いてしまうレベルで家庭環境終わってるってそれ死んだの親のせいでは?
-
- 17 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:45 返信する
-
マスゴミが17歳の自⚪︎を面白がって報道したせいで
次々と17歳が自⚪︎したのと似てるね
-
- 18 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:45 返信する
- TikTokが中国企業だって時点で気が付けよ
-
- 19 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:46 返信する
-
よく見たらこのツイート主と元記事はちょっと違う
親は一部原因があると主張、ツイ主は完全に悪いと主張してるし
気になるのがバットマンなんだよね
バットマンって善と悪どちらか分からないダークヒーローでウェインもそれを自問自答しながらやってるし、ジョーカーがウェインの本質見抜いて遊んでるからな
両親がバットマンはポジティブになる検索扱いにしてるけどそこが引っかかった
-
- 20 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:52 返信する
- この辺GoogleやApple、Xはちゃんとしてる
-
- 21 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:53 返信する
-
アメリカが禁止したのは安全保障上の問題があったからであって
アルゴ云々は多分関係ない気がする
-
- 22 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:54 返信する
-
>>20
してねーよw
検索した事もない広告とか流すの普通にあるから
酷い時は女性物の下着とかな、あれ出先で出るとガチで迷惑
-
- 23 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:55 返信する
- だって所詮中華アプリだもん
-
- 24 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:56 返信する
- AIの危険性で憂慮されている可能性の一つだな
-
- 25 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 17:56 返信する
- シナ畜らしいな
-
- 26 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:01 返信する
- ホント中国は武力でアメリカに勝てないからひねくれた手段ばかり使いやがる。
-
- 27 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:02 返信する
- キンペーに忖度した結果よ
-
- 28 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:04 返信する
-
もちろん教唆はよくないし何とかするべきだとは思うけどそれはそれとして家庭環境とかは問題なかったの?
押したのはTikTokかも知らんけど崖っぷちに追い詰めたのは絶対リアルの問題だって
-
- 29 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:07 返信する
-
今回静岡県で子供を誘拐しようとした中国籍の女性が逮捕されましたが、
日本でも9歳以下の子供の行方不明者が年々増加していて、
アプリ「TikTok」から中国が家族構成や居住場所等の情報が盗まれていて、
人身売買や臓器売買に関係している可能性が指摘がされています。
-
- 30 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:07 返信する
-
あらゆるおすすめ機能が大嫌いだからYoutubeはログインしないで見て毎回Cookie削除してるわ
Xも特定のアカウント入れたリストしか見ない
-
- 31 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:08 返信する
-
死にたい奴に生きることを強いる理由はないだろ
そいつらの悩みも境遇も知らない奴らが綺麗事抜かすなよ
-
- 32 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:09 返信する
-
子供の自殺なんて社会と過程の問題だろ
なーにアプリのせいにしてんだよ
-
- 33 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:11 返信する
-
>>28
それは言ってるね
ティックトックのせいなのかそうじゃないのかそれは本人にしか分からない的な事を
だから両親は一部ティックトックのせいでもあると考えてるってニュアンスになってるんだと思う
引用してるツイート主か主張を都合よくする為切り取りしてる
-
- 34 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:13 返信する
- そら中国だからね
-
- 35 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:22 返信する
- こういうアプリだから禁止したほうがいい
-
- 36 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:25 返信する
- Youtubeで文脈関係なく「死」や「殺」の字幕にぼかし処理加えなきゃいけなくなった理由がこれ
-
- 37 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:25 返信する
-
自殺に関する動画はアルゴリズムで削除すればいいのにね
動画配信アプリとして、動画の数や再生数の多さが最優先なんだろうな
-
- 38 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:51 返信する
-
何とは言わんけど【悲報】とか見出しつけて不安煽ったほうが閲覧されるからな
何とは言わんけど
-
- 39 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 18:53 返信する
-
>>19
ウエイトリフティングだって遠回りな自◯だからな
無意味に苦しむ必要もないしあんなもん持ち上げなくても生活できる
-
- 40 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 19:05 返信する
- わいには英語を教えてくれるシイタケ農家の動画が流れてくるのに…
-
- 41 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 19:13 返信する
- トランプ、今はtiktok支持側なんだけど
-
- 42 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 19:15 返信する
- でも日本人はこんなアプリ作れないし
-
- 43 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 19:21 返信する
-
ティックトックは起動するとおすすめ動画が流れるんだけど、
難病の人の動画とかが流れてきたりして気分悪い。
運営側、わざとだろあれ。
難病の人はかわいそうだけどな。
-
- 44 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 19:27 返信する
-
インスタでハムスターの動画見てたらさっきFacebook経由で猫がハムスター捕まえる動画紹介してきたよ
まあ、殺意が湧きましたよね
-
- 45 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 19:30 返信する
- 男女対立煽り、自札教唆。チウ国の工作活動なんかな
-
- 46 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 19:33 返信する
-
アルゴリズムからおすすめの動画が表示されるなんてこんなのTikTokに限った話じゃねえーわ
そう言う動画を利用するようになったってだけやろ
-
- 47 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 20:09 返信する
-
>>46
YouTubeとかでもオススメで発生する可能性があるけど、
そういう問題指摘があった時には対応するのが欧米のサービスだよ。
中国のサービスはそうした懸念は完全無視される
そこが問題なんだよ。しかも問題が発生した後も改善されない
-
- 48 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 20:11 返信する
-
TikTokの問題って犯罪助長する動画が放置されている所なんだよな。
だから犯罪自慢動画とか無くならない
-
- 49 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 20:14 返信する
-
岸田がやってることじゃん
マジで岸田政策聞いてると憂鬱になる
-
- 50 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 21:17 返信する
-
一時期Youtubeで一見普通の子供向けとか工作系の動画なんだけど音声が全然関係ない暴力的な話だったり性的虐待の話だったりを延々ナレーションしてるなんの目的なのやらわからん動画お勧めされた時期あったわ
あの動画作ってる人の目的もわからんくて怖い
-
- 51 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 21:20 返信する
- 当たり前だろ、どこの国のアプリだと思ってるんだよ
-
- 52 名前: 名無しオレ的ゲーム速報さん 2024年04月19日 22:03 返信する
-
>>6
しかし積極的な自殺幇助は犯罪
するなとは言わんが裁かれる事に文句は言えない
さてこの場合TikTokは自殺幇助に問われるのか?
現行法ではまず問われないだろうが論点はそれでいいのかどうかだ
X然り医師達に訴えられたGoogleマップ然り、巨大プラットフォームの責任は法で厳しく追求しない限り
人類を危機に陥れかねない
-
- 53 名前: 名無しオレ的ゲーム速報さん 2024年04月20日 02:13 返信する
- でも結果的に彼は苦しみから解放されたわけだろ?
-
- 54 名前: 名無しオレ的ゲーム速報さん 2024年04月20日 09:20 返信する
- やっぱりblockchannelは必要だわ、やりすぎて何もおススメに出てこなくなったが。
コメントする
・NGワードはライブドア基準です。・スパム対策で「http://〜」はコメントできません。
・住所や電話番号等の個人情報は書込みしないでください。
・特定個人や特定団体を酷く誹謗・中傷するようなコメントは控えて下さい。
・ブログの運営を著しく妨害するようなコメントについては法的措置も検討しておりますのでご理解の上コメントをお願い致します。
コメントする
・NGワードはライブドア基準です。・スパム対策で「http://〜」はコメントできません。
・住所や電話番号等の個人情報は書込みしないでください。
・特定個人や特定団体を酷く誹謗・中傷するようなコメントは控えて下さい。
・ブログの運営を著しく妨害するようなコメントについては法的措置も検討しておりますのでご理解の上コメントをお願い致します。