FTC проводит расследование в отношении компании OpenAI, создавшей и владеющей чат-ботом ChatGPT, с целью выяснить, не нарушала ли она законы о защите прав потребителей.
Газета The Washington Post, которая первой сообщила об этом расследовании, опубликовала 20-страничное требование FTC, в котором излагаются основные претензии к OpenAI.
Источник, знакомый с этим вопросом, подтвердил телекомпании CNBC подлинность документа. Федеральная торговая комиссия США пока его не комментирует.
В документе FTC требует предоставить отчеты о том, как компания OpenAI устраняет риски, связанные с ее моделями искусственного интеллекта,
В частности, в документе говорится, что проверка должна будет выяснить – не применяла ли компания Open AI «недобросовестные или обманные методы защиты конфиденциальности или безопасности данных» или«связанные с риском нанесения ущерба потребителям, включая репутационный ущерб».
FTC интересует широкий спектр материалов по работе OpenAI . В частности – информация об утечке данных в марте 2023, когда в открытый доступ попали истории чатов и платежные данные более 1% пользователей ChatGPT.
Гендиректор компании OpenAI Сэм Альтман писал тогда в Твиттере: «Мы чувствуем себя ужасно по этому поводу».
Теперь FTC проверит OpenAI на нарушение закона о защите прав потребителей.
Комиссия ожидает от компании OpenAI любые исследования, тестирования или опросы, оценивающие, насколько хорошо потребители понимают «точность или надежность результатов», полученных с помощью ее искусственного интеллекта. Регулятор также запросил записи о жалобах пользователей на чат-бот в случае ошибок или ложных заявлений.
Федеральная торговая комиссия уже не раз заявляла, что продукты искусственного интеллекта должны соответствовать действующим законам США. Если FTC обнаружит, что OpenAI нарушает законы о защите прав потребителей, компании будет грозить штраф или ограничения.
Ранее крупные штрафы за предполагаемые нарушения законов о защите прав потребителей получали компании Meta, Amazon и Twitter.
Опасения FTC, в частности, основаны на случаях, когда чат-бот генерирует неверную информацию.
Например, радиоведущий из штата Джорджия Марк Уолтерс подал на OpenAI в суд за клевету, когда ChatGPT выдумал юридические претензии к нему. В иске утверждается, что ChatGPT ложно заявил, что Уолтерс обвиняется в мошенничестве и хищении средств из фонда Second Amendment Foundation. Согласно жалобе, такую информацию ChatGPT выдал на вопрос об иске к фонду. На самом деле Уолтерс не имеет к нему никакого отношения.
В другой раз ChatGPT внес имя профессора права Джонатана Тёрли в список юристов, обвиненных в сексуальных домогательствах. Чат-бот сообщил, что профессора обвинили в сексуальном домогательстве во время учебной поездки на Аляску, сославшись на статью в газете Washington Post.
Но ни поездки, ни даже статьи в Washington Post в реальности не существовало. А в харассменте, на самом деле, был обвинен тезка профессора.
FTC запросила целый перечень информации о том, как компания OpenAI рекламирует свою продукцию, какие процедуры проводит перед запуском новых моделей ChatGPT на разных языках, какие данные использует для обучения алгоритма созданию текстов и как борется с «галлюцинациями» своих моделей – когда чат-бот придумывает ответ, не зная точной информации.
По последним данным, ChatGPT используют более 100 млн. человек во всем мире. В июне 2023 года на сайте ChatGPT было зарегистрировано 1,6 млрд. посещений.