내일의 마케팅 업계 소식을 놓치지 마세요

다음은 Kelley Drye의 파트너인 John Villafranco가 광고법 및 소비자 보호에 중점을 두고 가정용품 브랜드 및 Fortune 500대 기업에 소송 및 상담 서비스를 제공하는 객원 기사입니다. 의견은 저자 자신입니다.

인공 지능(AI) 기술이 빠르게 발전함에 따라 법은 점점 더 강력해지는 모델의 위험을 완화하기 위해 보조를 맞추도록 노력하고 있습니다. AI를 사용하는 기업은 기술이 제공하는 많은 기회를 빠르게 깨닫고 있지만 소비자 보호, 개인 정보 보호 및 윤리와 같은 영역에서 관련된 법적 문제에 대해서도 배우고 있습니다.

예를 들어 ChatGPT 및 기타 대규모 언어 모델(LLM)은 거짓, 오도, 편향, 불법 또는 부정확한 출력을 생성할 수 있으며 오류의 원인을 추적하거나 그 결과에 대한 책임을 누군가에게 묻기 어려울 수 있습니다. 이러한 문제에는 규제 개입이 필요합니다. 이는 OpenAI의 CEO인 Sam Altman도 인정한 사실입니다. 그리고 그러한 개입은 안전을 우선시하면서 광고주와 마케터에게 위험과 잠재적인 책임을 야기할 것입니다.

연방통상위원회 지침

연방 무역 위원회는 행위가 본질적으로 상업적인 경우 규제가 해당 영역 내에 있다고 간주한다고 밝혔습니다. 그 행위가 소비자에게 해를 끼치는 경우 기업은 FTC가 조치를 취하기를 기대해야 합니다. 이는 다른 형태의 전통적인 광고 및 마케팅과 마찬가지로 AI에도 적용됩니다.

최근 발표된 지침에서 FTC는 AI 사용자에게 득보다 실이 많은 관행에 관여해서는 안 되며 기술을 사용하여 사람들을 부당하거나 기만적으로 해로운 결정을 내리도록 유도해서는 안 된다고 상기시켰습니다. 확인된 우려 영역에는 재정, 건강, 교육, 주택 및 고용이 포함됩니다.

FTC 지침은 또한 생성 AI 출력이 상업적 관계로 인해 소비자를 특정 웹사이트, 서비스 제공업체 또는 제품으로 유도하는 경우 FTC법 5절에 따라 조작이 기만적이거나 불공정한 관행이 될 수 있다고 언급했습니다. 이 지침은 소위 "다크 패턴(dark patterns)"에 대한 FTC의 최근 초점과 일치합니다. 이는 소비자가 그렇지 않으면 취하지 않을 조치를 취하도록 조작하거나 오도하는 정교한 디자인 관행 또는 형식입니다.

지난달 2014년 심리 스릴러 '엑스 마키나'를 언급하며 FTC는 기업들이 고객 서비스를 제공하고 소비자 문의를 해결하기 위해 챗봇과 생성 AI에 지나치게 의존하는 것에 대해 경고했습니다. FTC는 복잡한 문제를 해결하는 기술의 제한된 능력, 부정확하거나 불충분한 정보의 가능성 및 관련 보안 위험에 대해 우려를 표명했습니다.

New York Times에 발표된 최근 의견에서 FTC 의장인 Lina Khan은 FTC가 공정한 경쟁을 촉진하고 불공정하거나 기만적인 광고 관행으로부터 미국인을 보호하기 위한 이중 권한을 가장 잘 달성할 수 있는 방법을 면밀히 검토하고 있다고 말했습니다. AI에 관한 그녀의 주요 관심사는 기존 기술 대기업의 시장 지배력을 고정시키는 것을 방지하는 것이지만 AI와 관련된 불공정하고 기만적인 광고 관행은 에이전시의 레이더에 분명히 있습니다.

개인 정보 보호 문제 증가

비즈니스 제품에 LLM을 사용하면 기존의 개인 정보 보호 문제도 증가하여 회사의 명성을 손상시키거나 소비자 및 정부 규제 기관의 무결성에 의문을 제기할 수 있습니다. 예를 들어 ChatGPT는 다음을 수행할 수 있습니다.

• 법적 근거 없이 또는 적절한 투명성과 통지 없이 얻은 개인 정보를 고의 또는 부주의로 사용하는 행위
• 도구의 입력 및 출력에 액세스하거나 분석할 수 있는 제3자에게 사용자의 개인 데이터 또는 참조를 노출하여 데이터 보호 또는 기밀 유지 의무를 손상시킬 수 있습니다. 그리고
• 금융 데이터, 건강 기록 또는 영업 비밀과 같이 사용자가 의도적으로 또는 의도하지 않게 도구에 제공한 민감한 정보를 공개하여 데이터 위반으로 인해 책임을 질 수 있습니다.

이러한 결과는 불공정하고 기만적인 행위 및 관행을 금지하는 FTC법 및 주 법령에 따라 회사를 책임에 노출시킬 수 있습니다.

현재 AI 불만 및 소송

이해관계자들은 지켜보고 있으며 기업에 책임을 묻기 위한 조치를 취할 준비가 되어 있습니다. 예를 들어, CAIDP(Center for Artificial Intelligence and Digital Policy)는 최근 FTC에 OpenAI의 사업 관행이 FTC법을 위반하는 불공정하고 기만적이라고 주장하면서 OpenAI를 조사할 것을 촉구하는 불만을 제기했습니다. 편견, 어린이 안전, 소비자 보호, 사이버 보안, 속임수, 개인 정보 보호, 투명성 및 공공 안전.

AI로 인한 저작권 침해를 주장하는 다수의 민간 소송도 제기됐다. 예를 들어 Microsoft, GitHub 및 Open AI는 현재 그들의 코드 생성 AI 제품이 크레딧을 제공하지 않고 라이선스 코드를 출력함으로써 저작권법을 위반한다고 주장하는 캘리포니아 주 외 집단 소송의 피고입니다. Getty Images는 또한 Stability AI에 대한 소송을 제기하여 AI 아트 도구가 사이트에서 이미지를 스크랩했다고 주장했습니다.

그리고 우려는 국내뿐 아니라 전 세계적입니다. 2023년 3월, 이탈리아의 데이터 감독 기관인 Garante는 ChatGPT가 GDPR을 위반할 가능성이 있다고 말하면서 OpenAI에 이탈리아 사용자의 데이터 처리를 일시적으로 금지하도록 명령했습니다(사용자에 대한 통지 부족, 처리에 대한 법적 근거 없음, 사용자 연령 확인 실패). 또는 미성년자의 서비스 이용을 방해할 수 있습니다.) 또한 캐나다 프라이버시 커미셔너 사무소는 "동의 없는 개인 정보 수집, 사용 및 공개"에 대해 OpenAI에 대한 조사를 시작했습니다. 프라이버시 커미셔너인 Philippe Dufresne의 사무실은 "빠르게 움직이는 기술 발전"을 앞서가는 것이 핵심 초점 영역이라고 밝혔습니다.

마케터를 위한 고려 사항

AI에 대한 많은 시선으로 광고주와 마케터는 신중하게 진행하는 것이 좋습니다. 현재로서는 이러한 고급 시스템의 긍정적인 영향에 대한 잠재력이 실현되기 시작함에 따라 안전이 시스템에 내장되고, 데이터가 책임감 있게 사용되며, 관행이 투명하고, 인간의 감독과 개입 기회를 통해 사실적 정확성이 촉진된다는 것을 의미합니다.