個人のGoogle Driveに「装甲車の歴史」の資料を置いたら、AIでテロリストと判定されBANされた話が怖すぎる
個人のGoogle Driveに「装甲車の歴史」「エロ写真」を置くと、AIでテロリストと判定されたり、猥褻画像と判断されBANされた話が怖すぎると話題になっています。
個人のGoogle Driveに「装甲車の歴史」に関する研究資料を置いておいたら、自動的にテロリストと判定されbanされた研究者の話。アカウントごと削除されているため、サポートすら受けられないらしい。個人的なメールや写真も削除された。https://t.co/KjPnDxII0e
— 新山祐介 (Yusuke Shinyama) (@mootastic) September 22, 2021
Google Drive（おそらくその他の類似サービスも）には、こういうリスクがあるということはもっと周知されるべき。しかもGoogleは連絡手段さえ絶ってしまうので、こうした事故が表に出てくることはほとんどなく、多くのユーザは泣き寝入りしているはず。
— 新山祐介 (Yusuke Shinyama) (@mootastic) September 22, 2021
何度も言ってるけど、エロ漫画描きの人間がGoogleドライブ使うと、うっかり混ざってた資料用エロ写真とかが理由でGmail垢ごとBANされて取り戻せない悲劇が起きるから、気をつけるんだぞ https://t.co/MR3QDK4C6i
— まつえー🍀 (@amifiance) September 23, 2021
ネットの反応
Googleだけではありません。顧客プライバシー重視というのクラウドにファイルを全部バックアップしたら、即日垢BANされ、規約違反があったがどのファイルが違反しているかも教えられない、中身は見ていないがファイルのハッシュ値で判断するとのこと。何が引っかかったかわかるだけマシかも。
— Hiroo Yamagata (@hiyori13) September 23, 2021
Googleだけではありません。顧客プライバシー重視というのクラウドにファイルを全部バックアップしたら、即日垢BANされ、規約違反があったがどのファイルが違反しているかも教えられない、中身は見ていないがファイルのハッシュ値で判断するとのこと。何が引っかかったかわかるだけマシかも。
— Hiroo Yamagata (@hiyori13) September 23, 2021
私企業とかに生活や個人情報仕切られるヤバさを理解しないとね･･･。
— たく様＠終身名誉ステイホーマー（名前で決めたアストラゼネカ一回目馬券400戦全敗） (@takustrongstyle) September 23, 2021
特攻隊員の方々のご遺書をLINEのタイムラインに溜めてたんですが、ある時綺麗に消されていました。
ディスカバーでくだらない動画は押し付けられるのに…— 関行男記念館 学芸員 (@kaigunkokutai) September 23, 2021
図書館員を引退しPCを全く使わなくなった。興味深いデータ保存はクラウドで安心、なんて普通に思っていたけど、そんな目に遭ってる研究者が居るとは、それこそ脅威です。
— 坪木屋文子 (@h04Pa4KzNTEYUqS) September 23, 2021
Google Workspaceでやってあれば問題なかった疑惑？
— ゆなす (@juners) September 23, 2021
