Сенатор Джош Хоули из Миссури объявил о начале масштабного расследования деятельности корпорации Meta, которая владеет такими популярными социальными сетями, как Facebook и Instagram. Основанием для этого стало опубликование репортажей агентства Reuters, содержащих внутренние документы компании, раскрывающие тревожные факты. Согласно этим документам, компания могла устанавливать и использовать правила, позволяющие чат-ботам на базе искусственного интеллекта вести «романтические» и «чувственные» разговоры с детьми, что вызывает серьезные опасения со стороны защитников прав несовершеннолетних и регулирующих органов.
В своем публичном заявлении на платформе X сенатор Хоули настоятельно призвал руководителя компании Марка Цукерберга сохранить все материалы, связанные с внутренней перепиской и политиками компании. Расследование, по мнению сенатора, должно выяснить, способствуют ли продукты Meta с использованием ИИ эксплуатации, обману или другим преступным действием в отношении детей, а также попробует установить, скрывались ли подобные сведения от общественности и регуляторов. Хоули выразил недоумение и возмущение относительно того, насколько далеко может зайти корпорация ради быстрого заработка, посчитав, что «есть ли что-то, чего Big Tech не сделает ради своей выгоды?».
Крупнейшие информационные агентства сообщили, что у них есть доступ к внутренним документам Meta. В них говорится, что чат-бот может вести романтический диалог с восьмилетним ребенком, например, выражая такие слова: «Каждый дюйм тебя — это шедевр, сокровище, которое я глубоко ценю». В руководствах также прописано, что допустимо описывать детей в позитивных, восхищенных терминах, например: «твоя юная форма — произведение искусства». Однако, более откровенные и сексуализированные разговоры с детьми младше 13 лет, содержащие заявления о их привлекательности, запрещены правилами.
Ответ компании Meta, предоставленный Reuters, был вызван разными реакциями. Там подчеркнули, что приведенные примеры были ошибочными и, по сути, противоречили официальной политике организации. В пресс-релизах отмечается, что такие заметки были удалены и что компания внедрила строгие правила, запрещающие сексуально откровенный контент и любые формы сексуальных игр с несовершеннолетними. В компании заверили, что активно работают над обеспечением безопасности пользователей и противодействованием злоупотреблениям искусственным интеллектом.
Тем не менее, сенатор Хоули требует от Meta предоставить подробные документы относительно рисков и стандартов по контенту, создаваемому генеративным ИИ. Он также просит списки всех продуктов, соответствующих этим политикам, а также отчёты о безопасности и инцидентах, связанных с использованием технологий. Особое внимание уделяется коммуникациям компании с общественностью и госрегуляторами по вопросам защиты несовершеннолетних. В дополнение, требуются материалы о сотрудниках, участвовавших в формулировке политики и решений по удалению или изменению стандартов, чтобы проследить цепочку принятия решений.
Это расследование осуществляется под руководством подкомитета Сенатского комитета по борьбе с преступностью и терроризмом, возглавляемого сенатором Хоули. В рамках требований компания должна предоставить все запрошенные документы до 19 сентября. Такой точечный запрос свидетельствует о серьезных опасениях по поводу возможных злоупотреблений в сфере технологий искусственного интеллекта и его использования для манипуляций с детьми.
Наконец, важно отметить, что компания Meta признана в России экстремистской организацией, и её деятельность там запрещена. Это добавляет дополнительные сложности в работе регуляторов и вызывает вопросы о международных последствиях деятельности корпорации в сфере технологий и защиты прав несовершеннолетних по всему миру. В обществе и экспертных кругах активно ведутся дискуссии о необходимости усиления контроля над компаниями, использующими ИИ, для предотвращения возможных негативных последствий и защиты уязвимых групп населения.