息子の性器に発疹が出たため写真を撮影し医者に送付 GoogleフォトのAIが検知し警察に通報 しかもアカウントは永久凍結


Googleフォト


Googleの人工知能が幼児の性器写真を誤解し警察に通報するという事件が起きた。

アメリカのサンフランシスコに住むエンジニアのハーピル・マーク氏は息子の性器に発疹が出たため、リモート受診のために医師に送付した。
新型コロナウイルスのために病院は閉鎖しており、リモートで診断を行っており、息子の局部の写真を送ってほしいと言われたという。

親は息子の局部の写真を撮影しメッセージアプリで送付し、そのあと抗生剤も無事に処方された。しかしその2日後、Googleアカウントがロックされたという通知が届いてGoogleアカウント全てが使えなくなってしまったのだ。これはGoogleの人工知能によるものだった。

マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ、それをGoogleは児童ポルノだと判定してしまったのだ。

マーク氏は異議申し立てを行ったがGoogleは「グーグルのポリシーに違反しており違法な可能性のある有害コンテンツ」として異議申立は却下された。

それだけでなく、人工知能は警察にも通報し、マーク氏は警察から事情聴取も受けたという。警察が持っていた通知書はグーグルと彼が利用するインターネットサービス会社に提供された捜索令状のコピーも一緒だった。しかし事件担当者は犯罪ではないと判断し、捜査を終結したと伝えた。
捜査が終わると今度はマーク氏が警察にGoogleアカウントを取り戻すのを手伝って欲しいと悲願。警察に文書を送付しGoogleを訴えたが、Googleは異議申し立てを再び却下した。

マーク氏はGoogleアカウントが永久に削除されるという通知を受け、会社を訴えようともしたが、コストと時間の関係上諦めたという。

GoogleドライブやGoogleフォトは自動で同期する機能があるが、ポルノ画像(特に自動ポルノ)を入れるとAIが検知し、Googleアカウント全てが凍結されてしまうので、クラウドサービスは他社のサービスを使うのをおすすめする。クラウドに卑猥な画像を入れろというわけでなく、こういった時のためにGoogleだけに依存するのではなく、サービスの切り分けも必要だということだ。

ソース

コメントする(匿名可)



ゴゴ通をフォローする

facebook twitter feedly RSS
"ミシガン州の公園に出来た巨大滑り台 あまりに危険過ぎて3時間で閉鎖となる
【加飾フィルム】「トヨタのサステナビリティ実験発電中を広告中」を渋谷の109前に8月24日からの実証展示

関連記事

ルンバを超えた? 究極の機能性と美しさを追求したAnker のロボット掃除機の最高峰モデル「Eufy Robot Vacuum Omni S1 Pro」を販売開始

2024/06/21 11:00:17

大人気の 3-in-1 モデルに10000mAh の大容量が登場!「Anker PowerBank(10000mAh, Fusion, Built-In USB-C ケーブル)」を販売開始

2024/06/20 11:00:30

マウスコンピューター、キッザニア東京にパソコンの組み立てを体験できる「パソコン工場」6月26日オープン

2024/06/12 05:26:10

Google AIが贈る、画期的なノートアプリ「NotebookLM」リリース!

2024/06/11 01:49:29

ニコニコ動画、サイバー攻撃でサーバーダウン:復旧見込みは6月10日以降

2024/06/09 05:11:07

「公園名 爆サイ」で検索すると漏れなくハッテン場が出てくると話題に マイナーな公園もハッテン場?

2024/06/05 08:58:43

快適環境 ノートPC、スマホはWiFiで繋ごう! シリーズ最高クラスのワイヤレス・モバイル液晶モニター「PROMETHEUS CAST 15.6inch」

2024/06/05 08:52:49

マウスコンピューター、キッザニア東京に「パソコン工場」パビリオンを出展2024年6月26日オープン

2024/05/29 11:00:02

Soundcore 史上最軽量!リップスティック型ケースを初採用した完全ワイヤレスイヤホン「Soundcore A30i」を販売開始

2024/05/28 11:00:48

新たなナイトルーティン。スイッチONでホッとしたひと時を”CIO Hot Eyemask”が一般販売開始!

2024/05/25 02:28:22

もっとみる

新着記事

ルンバを超えた? 究極の機能性と美しさを追求したAnker のロボット掃除機の最高峰モデル「Eufy Robot Vacuum Omni S1 Pro」を販売開始

2024/06/21 11:00:17

都知事選過去最多の立候補に看板が足りない異常事態に 選挙看板を転売し儲けるNHK党に批判の声も

2024/06/20 18:03:10

大人気の 3-in-1 モデルに10000mAh の大容量が登場!「Anker PowerBank(10000mAh, Fusion, Built-In USB-C ケーブル)」を販売開始

2024/06/20 11:00:30

東京03の飯塚さん、角田さんの同僚役として河合優実さんが初登場 さとふる、新テレビCMを6月15日より放映開始

2024/06/13 16:33:27

マウスコンピューター、キッザニア東京にパソコンの組み立てを体験できる「パソコン工場」6月26日オープン

2024/06/12 17:26:10

Google AIが贈る、画期的なノートアプリ「NotebookLM」リリース!

2024/06/11 01:49:29

【一蘭/和風とんこつラーメン】誕生!スープ、麺、チャーシューを新たに開発。キャナルシティ博多店で提供

2024/06/10 11:00:16

ニコニコ動画、サイバー攻撃でサーバーダウン:復旧見込みは6月10日以降

2024/06/09 05:11:07

「公園名 爆サイ」で検索すると漏れなくハッテン場が出てくると話題に マイナーな公園もハッテン場?

2024/06/05 20:58:43

快適環境 ノートPC、スマホはWiFiで繋ごう! シリーズ最高クラスのワイヤレス・モバイル液晶モニター「PROMETHEUS CAST 15.6inch」

2024/06/05 08:52:49

もっとみる

コメント(匿名で投稿できます)

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

CAPTCHA


"ミシガン州の公園に出来た巨大滑り台 あまりに危険過ぎて3時間で閉鎖となる
【加飾フィルム】「トヨタのサステナビリティ実験発電中を広告中」を渋谷の109前に8月24日からの実証展示
//valuecommerce //popin //popin amp