明日のマーケティング業界ニュースをお見逃しなく

公開: 2023-06-21

以下は、広告法と消費者保護に重点を置き、家庭用ブランドやフォーチュン 500 企業に訴訟およびカウンセリングサービスを提供する、ケリードライのパートナーであるジョンヴィラフランコによるゲスト記事です。意見は著者自身のものです。

人工知能 (AI) テクノロジーが急速に発展する中、ますます強力になるモデルのリスクを軽減するために、法律もそれに歩調を合わせようと取り組んでいます。 AI を使用する企業は、このテクノロジーによってもたらされる多くの機会をすぐに認識していますが、同時に、消費者保護、プライバシー、倫理などの分野における関連する法的懸念についても認識しています。

たとえば、ChatGPT やその他の大規模言語モデル (LLM) は、虚偽、誤解を招く、偏見のある、違法または不正確な出力を生成する可能性があり、エラーの原因を追跡したり、結果に対する責任を誰かに問うことが困難な場合があります。これらの問題には規制の介入が必要であり、この事実は OpenAI の CEO である Sam Altman も認めています。そして、そのような介入は、安全性を優先する一方で、広告主やマーケティング担当者にリスクと潜在的な責任をもたらすことになります。

連邦取引委員会のガイダンス

連邦取引委員会は、行為が本質的に商業的なものである場合、規制はその範囲内であると考えていると述べています。その行為が消費者に損害を与える場合、企業は FTC が行動することを期待する必要があります。これは、他の従来の広告やマーケティングと同様に AI にも当てはまります。

最近発表されたガイダンスの中で、FTCはAIのユーザーに、利益よりも害をもたらす行為に従事すべきではなく、人々を不当に、または欺瞞的に有害な決定に誘導するためにテクノロジーを使用すべきではないことを思い出させた。特定された懸念分野には、金融、健康、教育、住宅、雇用などが含まれます。

FTC ガイダンスでは、商業的関係を理由に生成 AI 出力が消費者を特定の Web サイト、サービスプロバイダー、または製品に誘導する場合、操作は FTC 法第 5 条に基づく欺瞞的または不当な行為となり得るとも指摘しています。このガイダンスは、FTCが最近焦点を当てている、いわゆる「ダークパターン」、つまり消費者を操作したり誤解させて、本来取らないような行動をとらせる高度なデザイン慣行やフォーマットに焦点を当てていることと一致している。

先月、FTCは2014年のサイコスリラー映画「エクス・マキナ」に言及し、顧客サービスの提供や消費者の問い合わせの解決においてチャットボットや生成AIに過度に依存していることについて企業に警告した。 FTCは、複雑な問題を解決するためのこの技術の能力の限界、不正確または不十分な情報の可能性、および関連するセキュリティリスクについて懸念を表明した。

ニューヨーク・タイムズに掲載された最近の意見の中で、FTC委員長のリナ・カーンは、FTCは公正な競争を促進し、不公平または欺瞞的な広告慣行から米国人を保護するという二重の責務を最も効果的に達成する方法を注意深く検討していると述べた。 AI に関して彼女が最も懸念しているのは、AI が既存の大手テクノロジー企業の市場支配を固定化することを防ぐことだが、AI 関連の不公平で欺瞞的な広告慣行は明らかに当局の注目を集めている。

プライバシーに関する懸念の増大

ビジネス製品で LLM を使用すると、既存のプライバシー上の懸念も増大し、企業の評判が損なわれたり、消費者や政府規制当局から企業の誠実性が疑問視されたりする可能性があります。たとえば、ChatGPT は次のような場合があります。

法的根拠なしに、または適切な透明性や通知なしに取得した個人情報を意図的または不注意で使用する。
ユーザーの個人データや参照を第三者に公開すると、ツールの入出力にアクセスしたり分析したりする可能性があり、データ保護や機密保持義務が侵害される可能性があります。と
ユーザーが意図的または非意図的にツールに提供した財務データ、健康記録、企業秘密などの機密情報が漏洩すると、データ侵害による責任が生じる可能性があります。

これらの結果のいずれかが発生した場合、企業は FTC 法および不当で欺瞞的な行為や慣行を禁止する州法に基づく責任にさらされる可能性があります。

現在の AI に関する苦情と訴訟

関係者は注視しており、企業に責任を追及する措置を講じる用意がある。たとえば、人工知能・デジタル政策センター（CAIDP）は最近、FTCに苦情を申し立て、OpenAIの商慣行がFTC法に違反し不公平かつ欺瞞的であり、以下の点で深刻な疑問を提起しているとして、同庁に調査するよう求めた。偏見、子供の安全、消費者保護、サイバーセキュリティ、欺瞞、プライバシー、透明性、公共の安全。

AIによる著作権侵害を主張する民間訴訟も多数起こされている。たとえば、Microsoft、GitHub、および Open AI は現在、自社のコード生成 AI 製品がクレジットを提供せずにライセンスされたコードを出力することで著作権法に違反していると主張するカリフォルニア州の集団訴訟の被告となっています。ゲッティイメージズもまた、同社のAIアートツールがサイトから画像を収集したとして、Stability AIに対して訴訟を起こした。

そして、懸念は国内だけでなく世界的なものとなっています。 2023年3月、イタリアのデータ監督局ガランテは、ChatGPTがGDPRに違反する可能性が高い（ユーザーへの通知の欠如、処理の法的根拠がない、ユーザーの年齢確認の怠り）として、OpenAIに対し一時禁止の下でイタリアのユーザーデータの処理を停止するよう命令した。または子供によるサービスの利用を妨げます）。さらに、カナダのプライバシーコミッショナー局は、「同意のない個人情報の収集、使用、開示」に関するOpenAIに対する調査を開始した。プライバシー委員フィリップ・デュフレーヌ氏の事務所は、「急速に進む技術の進歩」の先を行くことが重要な焦点分野であると述べた。

マーケター向けの考慮事項

AI には多くの注目が集まっているため、広告主やマーケティング担当者は慎重に進めることをお勧めします。現時点では、これらの高度なシステムがプラスの効果をもたらす可能性が認識され始めていますが、これは安全性がシステムに組み込まれ、データが責任を持って使用され、実践が透明性を確保し、人間の監視と介入の機会を通じて事実の正確さが促進されることを意味します。