インフォぷりんVol.180『生成AIによる画像・動画・音声加工のリスク』

写真1枚から服装や背景、表情まで自然に作り変える、数秒の声から本人そっくりの音声を作る――。生成AIの進化により、こうした加工が誰でも手軽にできるようになりました。便利で楽しい一方、アップロードした写真や動画、音声が悪用されるリスクも高まっています。

免責事項：本記事は一般的な情報提供を目的としており、特定の事案に対する助言を行うものではありません。実務対応の際は専門家へのご相談、または公的機関などが公表する最新の情報をご確認ください

便利さは「悪用」リスクも伴う

現在の生成AIでは、写真の一部を違和感なく置き換える「画像の加工・生成」、写真や短い動画から実在しない場面を作る「動画の生成」、声の特徴を真似る「音声の合成（音声クローン）」などが、手軽に作れます。裏を返せば、「悪用しようと思えば、誰でも悪用できる」状態ともいえます。では、どのようなリスクがあるのか、主なものをいくつかまとめました。

画像などを安易にアップロードすること自体のリスク

「AIで写真をアニメ風にする」など、画像をアップロードして加工するサービスは手軽な反面、次のようなリスクがあります。

AIの学習に使われる可能性：
アップロードした画像がAIの学習に利用される場合があります（設定変更で学習利用を停止できるサービスと、できないサービスがあります）。
保存・流出の可能性：
画像は外部のサーバー（日本国内にあるとは限りません）に一定期間保存されるため、不正アクセスなどで画像が外部に流出するおそれがあります。
写り込み・位置情報：
背景に写った書類や名札、画像データに含まれる位置情報などもAIの学習に利用される可能性があります。
必要以上の権限を与えてしまう可能性：
写真フォルダ全体へのアクセスや他アプリへのアクセスなど、必要以上の権限が要求され、気付かずに許可してしまう可能性があります。

音声や顔、本人確認書類が悪用されるリスク

顔や声、運転免許証などの本人確認書類は、本人である証拠として信用されてきましたが、生成AIの登場により、その「本人の証拠（信用性）」が悪用されるリスクが高まっています。

なりすまし詐欺：
家族や上司の声を真似た電話や、ディープフェイクを使ったビデオ会議で、送金をだまし取る手口が海外ではすでに報じられています。
本人確認の突破・信用の毀損：
顔や声による本人確認を悪用される可能性や、言っていないことを言ったかのような偽動画で評判を傷つけられる可能性があります。
本人確認書類の偽造：
サービスに送った免許証などの本人確認書類の画像が外部に流出した場合に、顔写真をAIで加工されるなどして（偽の本人確認書類として）、口座開設や各種契約に悪用されるおそれがあります。

職場や学校で撮影した画像などをアップロードするリスク

職場や学校、公共の場で撮影した画像には、「他の人」や「組織」の情報が含まれている場合もあります。

機密情報の漏えい：
ホワイトボードや資料、パソコン画面の写り込みや、会議録音の音声などで、社外秘の情報を外部に渡してしまう可能性があります。
肖像権・個人情報・契約違反：
他人が写った写真を同意なくアップロードすることや情報の流出は、プライバシーの侵害や秘密保持契約違反につながるおそれがあります。