息子の性器に発疹が出たため写真を撮影し医者に送付 GoogleフォトのAIが検知し警察に通報 しかもアカウントは永久凍結


Googleフォト
[quads id=2]
Googleの人工知能が幼児の性器写真を誤解し警察に通報するという事件が起きた。

アメリカのサンフランシスコに住むエンジニアのハーピル・マーク氏は息子の性器に発疹が出たため、リモート受診のために医師に送付した。
新型コロナウイルスのために病院は閉鎖しており、リモートで診断を行っており、息子の局部の写真を送ってほしいと言われたという。

親は息子の局部の写真を撮影しメッセージアプリで送付し、そのあと抗生剤も無事に処方された。しかしその2日後、Googleアカウントがロックされたという通知が届いてGoogleアカウント全てが使えなくなってしまったのだ。これはGoogleの人工知能によるものだった。

マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ、それをGoogleは児童ポルノだと判定してしまったのだ。

マーク氏は異議申し立てを行ったがGoogleは「グーグルのポリシーに違反しており違法な可能性のある有害コンテンツ」として異議申立は却下された。

それだけでなく、人工知能は警察にも通報し、マーク氏は警察から事情聴取も受けたという。警察が持っていた通知書はグーグルと彼が利用するインターネットサービス会社に提供された捜索令状のコピーも一緒だった。しかし事件担当者は犯罪ではないと判断し、捜査を終結したと伝えた。
捜査が終わると今度はマーク氏が警察にGoogleアカウントを取り戻すのを手伝って欲しいと悲願。警察に文書を送付しGoogleを訴えたが、Googleは異議申し立てを再び却下した。

マーク氏はGoogleアカウントが永久に削除されるという通知を受け、会社を訴えようともしたが、コストと時間の関係上諦めたという。

GoogleドライブやGoogleフォトは自動で同期する機能があるが、ポルノ画像(特に自動ポルノ)を入れるとAIが検知し、Googleアカウント全てが凍結されてしまうので、クラウドサービスは他社のサービスを使うのをおすすめする。クラウドに卑猥な画像を入れろというわけでなく、こういった時のためにGoogleだけに依存するのではなく、サービスの切り分けも必要だということだ。

[quads id=2]

ソース

[quads id=3]
[quads id=4]

ゴゴ通をフォローする

facebook twitter feedly RSS
"ミシガン州の公園に出来た巨大滑り台 あまりに危険過ぎて3時間で閉鎖となる
【加飾フィルム】「トヨタのサステナビリティ実験発電中を広告中」を渋谷の109前に8月24日からの実証展示

関連記事

もっとみる

新着記事

参院選出馬の横山緑インタビュー動画「ミルク飲み放題!消費税ゼロ!ドラゴンボールパーク」 奇抜公約が止まらない

2025/07/09 01:44:34

macOSに影響を与えるマルウェアの種類とその駆除方法

2025/07/07 23:55:43

サロン級セルフジェルネイル「ジェルミーワン」から限定コレクション登場 金木犀をイメージした新色が7月25日発売

2025/07/07 17:51:45

配信者の横山緑 参院選に出馬するも会見はガラガラ 親からは縁を切られる

2025/06/28 18:20:01

日本金融庁とHeadlands Tech、AI取引の日本市場導入を推進

2025/06/23 19:46:31

Nintendo Switch2 発売前からメルカリに大量出品される 中には箱だけ出品も

2025/06/05 02:13:08

【JA】「たすけあい story 募集キャンペーン」を開始 あなたの心あたたまる「たすけあい」エピソードが 浜辺美波さん&福原遥さん出演アニメに!?

2025/05/16 17:00:31

極小分子ペプチドでハイダメージやうねりをキュアする 国内外の最先端処方技術が生み出した新処方 “分子レベルリペア処方” 発売からわずか11ヶ月で累計出荷個数170万個※1突破!

2025/05/12 12:18:41

Ankerがアクセサリーのように耳に付けるイヤーカフ型ワイヤレスイヤホン「Soundcore AeroClip」を販売開始

2025/04/23 11:00:44

開発秘話を漫画化した「VAIOモノがたり」2本を特設サイトで公開

2025/04/18 01:03:00

もっとみる

コメント(匿名で投稿できます)

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

CAPTCHA


"ミシガン州の公園に出来た巨大滑り台 あまりに危険過ぎて3時間で閉鎖となる
【加飾フィルム】「トヨタのサステナビリティ実験発電中を広告中」を渋谷の109前に8月24日からの実証展示
//valuecommerce //popin //popin amp