1 ：デロビブリオ(東京都) [ﾆﾀﾞ]：[ここ壊れてます] .net
sssp://img.5ch.net/ico/nida.gif
Googleの人工知能が幼児の性器写真を誤解し警察に通報するという事件が起きた。
アメリカのサンフランシスコに住むエンジニアのハーピル・マーク氏は息子の性器に発疹が出たため、
リモート受診のために医師に送付した。
新型コロナウイルスのために病院は閉鎖しており、リモートで診断を行っており、息子の局部の写真を送ってほしいと言われたという。
親は息子の局部の写真を撮影しメッセージアプリで送付し、そのあと抗生剤も無事に処方された。
しかしその2日後、Googleアカウントがロックされたという通知が届いてGoogleアカウント全てが使えなくなってしまったのだ。
これはGoogleの人工知能によるものだった。
マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ、それをGoogleは児童ポルノだと判定してしまったのだ。
マーク氏は異議申し立てを行ったがGoogleは「グーグルのポリシーに違反しており違法な可能性のある有害コンテンツ」として
異議申立は却下された。
それだけでなく、人工知能は警察にも通報し、マーク氏は警察から事情聴取も受けたという。警察が持っていた通知書は
グーグルと彼が利用するインターネットサービス会社に提供された捜索令状のコピーも一緒だった。しかし事件担当者は
犯罪ではないと判断し、捜査を終結したと伝えた。
捜査が終わると今度はマーク氏が警察にGoogleアカウントを取り戻すのを手伝って欲しいと悲願。警察に文書を送付しGoogleを訴えたが、
Googleは異議申し立てを再び却下した。
マーク氏はGoogleアカウントが永久に削除されるという通知を受け、会社を訴えようともしたが、コストと時間の関係上諦めたという。
GoogleドライブやGoogleフォトは自動で同期する機能があるが、ポルノ画像（特に自動ポルノ）を入れるとAIが検知し、
Googleアカウント全てが凍結されてしまうので、クラウドサービスは他社のサービスを使うのをおすすめする。
クラウドに卑猥な画像を入れろというわけでなく、こういった時のためにGoogleだけに依存するのではなく、
サービスの切り分けも必要だということだ。
https://gogotsu.com/archives/68334
285 ：：2022/08/24(水) 22:29:45.34 ID:dS/TvcmO0.net
ここまでやらないと防げない犯罪があるってことも多少は理解したいが、理由がわかったなら解放してやれよw
149 ：：2022/08/24(水) 18:06:24.04 ID:NLFvVn7Z0.net
>>144
資料で学習させたんでしょ
何でそこから児童ポルノを収集してる、まで発想が飛ぶ訳？
195 ：：2022/08/24(水) 18:45:39.88 ID:ABJt/20z0.net
>>174
その辺の使えないバイト100人雇うより仕事はしてくれるよ
こういうエラーはまだまだ改善の余地ありだけど
2 ：メチロフィルス(やわらか銀行) [US]：[ここ壊れてます] .net
無能AI
327 ：：2022/08/25(木) 00:50:00.28 ID:M4Ww12sD0.net
俺のチンコ子供なみに小さいんですけど
72 ：：2022/08/24(水) 17:14:30.83 ID:f7Yod7lk0.net
>>66
スマホ持ってないの？
372 ：：2022/08/25(木) 09:43:52.39 ID:IXo6lrpy0.net
>>136
世界で一番ちんちんまんまん見てそうだよな
366 ：フランキア(山形県) [US]：[ここ壊れてます] .net
息子の性器にとか
頭痛が痛いみたいなもん？
189 ：：2022/08/24(水) 18:37:30.75 ID:0Up1XPIr0.net
Googleフォトに児ポうpしたらダメというのは理解しているのに医者の依頼なら規約が無効になるのか？
400 ：：2022/08/25(木) 21:19:20.72 ID:3YsAHE5W0.net
なんでもかんでもわかりにくく勝手に共有やバックアップさせて個人情報収集しといてこの有様だよ
95 ：：2022/08/24(水) 17:25:42.33 ID:jvvQjD4t0.net
検索結果とかもGoogleは当然知ってるわけで
262 ：：2022/08/24(水) 20:45:50.84 ID:AL85Ym/r0.net
凄いな。
融通は利かないかもしれんがコレが本当の児ポなら将来、助かる子もおるかもしれん。
333 ：：2022/08/25(木) 01:44:12.10 ID:1TNLeepI0.net
未成年の水着が、駄目ならJKのスマホなんかアカ停止だろ
106 ：：2022/08/24(水) 17:32:54.58 ID:Wb/iZjzL0.net
AI「の○太さんのエッチ！」
125 ：：2022/08/24(水) 17:49:32.48 ID:SmjkB3rx0.net
>>121
残念、逃げ道は有りません
57 ：：2022/08/24(水) 17:04:14.16 ID:W+pQmwrc0.net
グーグルは昔からアホだよ
グーグル翻訳のゴミさがそれを物語ってる
196 ：：2022/08/24(水) 18:45:49.82 ID:EXrAshcA0.net
そういうことに企業のシステムを使うなってことだな
似たような事例あるだろうに危機感が足りない
175 ：：2022/08/24(水) 18:28:31.74 ID:vYynCFjJ0.net
クソグル
86 ：：2022/08/24(水) 17:21:37.16 ID:zG3kRo510.net
暗号化しておくれよ…
53 ：：2022/08/24(水) 17:01:35.57 ID:jL2wGUh30.net
>>16
異議申し立て２回もやってるのに確認もしてないのかね?
グーグル社員って仕事楽そう
391 ：：2022/08/25(木) 15:03:55.86 ID:LxRW0b1B0.net
|:;:;:;:;:;:;:;:;:;:;:;:;:;:i;:;:;:;:;:;:;:;:;:;:;:;:;|
|;:;:_:;:_:;:_:;:_;:;_:;:l:;_;:_:;:_:;:_:;:_;:_;|
|＿＿＿＿＿_|＿＿＿＿＿|
| 三| ＿ ＿ |三 !
| 三| 三ｼ ヾ三 |三 |
| 三′ .._ _,,.. i三 |
ト､ﾆ| <でiﾝヽ ;’i”ｨでiﾝ |三.| 画像も貼らずにスレ立てとな！！
’, iヽ! ､ ‐’ / !､ ーシ |ｼ,ｲ
i,ヽﾘ ,’ : !. |ｆ ﾉ
ヾ! i ,､ ,..､ヽ lノ
| _ _ ｲ l
l ,ｨﾁ‐-‐ヽ i /、
ﾞi､ ゝ､二ﾌ′ ﾉ/'”＼
| ＼ ｰ一 ／ / _,ﾝ’ﾞ＼
,ィ|､ ＼ /_,､-‘” _,.-”´ ｀丶､＿_
＿, イ | ヽ＿ 二＝”” _,. -”´ ”””””´´ ｀`ｰ
358 ：：2022/08/25(木) 07:21:05.58 ID:0O9ie1JN0.net
違法だからアカウント停止したんじゃないだろ
あくまでも利用規約の違反ってことよ
例外は作らない
240 ：：2022/08/24(水) 20:07:15.91 ID:YKjcDOhy0.net
>>94
金だせばやってくれるだろ。
怠慢じゃなくて費用対効果の結果やらんのよ。googleからしたらお前の全財産10世代分出してもペイできないからやってくれんと思うけどな。
351 ：：2022/08/25(木) 06:53:10.27 ID:rZXoYYBW0.net
そういう画像をクラウドにまで保存しなくても
291 ：：2022/08/24(水) 22:48:09.16 ID:lPVDjiJV0.net
画像そのまま送らずにZIPで送れば良かったんか？
207 ：：2022/08/24(水) 19:03:20.72 ID:MDfFQQ520.net
>>149
資料を読ませて判別させるじゃん
だけどもそれをやったのは、北米ではないか、児ポ法のない州での話だから所持して用がなにしようが関係ないのよ
治外法権
197 ：：2022/08/24(水) 18:46:37.61 ID:HxKG6ZWp0.net
>>166
法律には髪型や紙の色の規定なんてないから分からねぇw
165 ：：2022/08/24(水) 18:17:35.55 ID:LpcdxJZJ0.net
アメリカだろ？完全に無罪で言いがかりなのに何故告訴しないんだ？
ハイエナ弁護士なんて山ほどいるだろうに
211 ：：2022/08/24(水) 19:05:43.26 ID:75gnfKNa0.net
クラウドに無臭動画上げないでよかった
誤解されてしまう
373 ：：2022/08/25(木) 09:45:37.69 ID:9J1qCHnT0.net
ガキちんぽに興奮する感情が理解できない
18㎝以上で雄を感じさせるものじゃないと俺はしゃぶらないからな
332 ：：2022/08/25(木) 01:42:09.02 ID:E0XZ78ym0.net
ダウンロードしたエロ画像や動画やらスマホにいっぱい入ってるが、それもクラウドで検閲されてるんだな
383 ：：2022/08/25(木) 12:22:03.99 ID:d8MMHr5M0.net
>>364
これは貴重な症例写真になるんだぞ
154 ：：2022/08/24(水) 18:09:16.17 ID:r47A2NM90.net
>>149
資料って具体的に何？保険の教科書か？ｗ
93 ：：2022/08/24(水) 17:24:30.92 ID:HxKG6ZWp0.net
>>43
騒がれた頃より精度下がってるのが笑えない
266 ：：2022/08/24(水) 21:05:22.36 ID:N0aHUQiE0.net
グーグルフォト？の中身も見られてんの？エロ画像たんまりなんだけど
335 ：：2022/08/25(木) 01:55:34.70 ID:y3qEq6Bx0.net
Google Photoの顔認識のアルバム機能もスゴイな
似たような猫の写真を撮ってて、同じ猫だと思ってたら、違う猫と判別したわ
55 ：：2022/08/24(水) 17:03:17.03 ID:e/vnA9yN0.net
ほんと大手は融通きかんな
もっと臨機応変に対応しろよ
56 ：：2022/08/24(水) 17:04:04.36 ID:CfNP+G0m0.net
子供のチンコまで判別できるのか？
大人なのに誤判定されたら悲しいじゃんw
39 ：：2022/08/24(水) 16:56:11.98 ID:FOJJAdqo0.net
俺もgoogleの一部の機能が凍結されて、何度も連絡しているけどテンプレの返事しか帰って来ない。
202 ：：2022/08/24(水) 18:57:56.11 ID:IDWIkLqh0.net
>>1
グーグル恐ろしいな
メインのメールやメインスマホでは使えんわこれ
異議申し立てまでしてこれって仕事にもならん
グーグル使わないでスマホしたいが何でもグーグルに紐付けされて困る
なんとかならんの？
412 ：：2022/08/27(土) 11:53:56.25 ID:ehJNEaEC0.net
子供のちんこにはムラムラしないけど
子供の腕や脚をみて昔ヤったチンコの大きかった男を思い出すのはある
274 ：：2022/08/24(水) 21:27:49.91 ID:nAEhdM+g0.net
>>66
zipなんて普通にスキャンできちゃうわ
47 ：：2022/08/24(水) 16:58:05.33 ID:IuAASU5h0.net
>>42
心を病むらしいぞ、この前ニュースになってた
192 ：：2022/08/24(水) 18:42:15.25 ID:U8rwM6JV0.net
性器はリモート禁止でいいだろ日本なら禁止だろうし
166 ：：2022/08/24(水) 18:17:49.52 ID:TaIm6Pb40.net
>>75
そりゃ、校則とか社則とかの髪型や髪色指定なんて法律より厳しかったりするじゃん
マスクなんかだと、店舗ルールだったら客も従うでしょ
まあ、今回のはgoogleはAIだけじゃなく人間までアスペなんだなｗって思うけども
319 ：：2022/08/25(木) 00:37:11.28 ID:kmA8op5h0.net
>>40
AIにやらせろよw
155 ：：2022/08/24(水) 18:09:58.03 ID:heCIouJ60.net
AIが絶対とか酷いディストピアだな
84 ：：2022/08/24(水) 17:21:22.38 ID:Ueqi4YgN0.net
最近のGoogleは邪悪、暗黒としかいいようがない
そもそもユーザーのデータを検閲するなと
124 ：：2022/08/24(水) 17:48:19.41 ID:IDWWIXVS0.net
本当かどうか知らんけど、児童ポルノ所持の裁判で、炉と判定した医師に擬似炉の女優の写真見せたら
見事に誤判定して医師の判定に信憑性が無いとされた、なんて話あったよな
A.I.に擬似炉と本物見分けられるの？
375 ：：2022/08/25(木) 11:03:17.40 ID:B5R5IZIS0.net
若かりし頃の思い出のハメ鳥写真をおいてあるけどマズイかな
未成年じゃないけど若く見える
コメント