Остановить разработку ИИ-моделей требуют НПО в США

Некоммерческие организации считают, что дальнейший прогресс в этой сфере может нанести вред человечеству, передает Exclusive.kz со ссылкой на Reuters.

Иск подан в суд Сан-Франциско, истцы требуют ввести запрет на дальнейшую разработку ChatGPT, Gemini и Claude. В обращении указаны ссылки на заявления гендиректора Anthropic Дарио Амодея и главы SpaceX Илона Маска о потенциальной возможности ИИ уничтожить человеческую цивилизацию.

«Ни одной другой отрасли не позволено разрабатывать небезопасные продукты – тем более такие, которые могут убить всех нас, – говорится в иске. – Ни одной отрасли не позволено самостоятельно регулировать разработку таких опасных продуктов».

Это не первый подобный иск. В июне генпрокурор штата Флорида подал в суд на OpenAI, обвинив компанию в том, что она представляла ChatGPT как небезопасный продукт. Прокуратура, в частности, упоминала, что ChatGPT помогал советами людям, которые устроили стрельбу в университете Таллахасси в 2025 году. Это дело до сих пор находится в суде на рассмотрении.

В октябре 8 штатов США подали в суд на OpenAI, обвиняя компанию в том, что чат-бот ChatGPT побуждал своих пользователей, в том числе подростков, причинять вред себе или другим. Истцы требуют от OpenAI внести изменения в работу ChatGPT и прекратить исследования ИИ, если компания не может гарантировать соответствия человеческим ценностям.

Фото pixabay.com