Об этом сообщает Reuters.

В иске, поданном в суд Сан-Франциско, Кристи Каррье заявляет, что ее дочь Алиса более десяти раз делилась с ChatGPT мыслями о самоубийстве.

Девушка начала пользоваться чат-ботом в 2023 году. Спустя год она уже обсуждала с нейросетью свои переживания. Со временем общение становилось все более личным: Алиса раскрывала все больше деталей, а ChatGPT отвечал в манере, похожей на друга или психолога.

Разговоры продолжались вплоть до ее смерти, однако системы безопасности ни разу не отправили беседы на проверку человеком и не прервали их.

Ранее в Китае родители доверились советам нейросети и едва не навредили младенцу. ИИ-помощник посоветовал кормить ребенка, заболевшего желтухой, по 60 миллилитров молока за раз. Родители строго следовали этой инструкции и игнорировали советы родственников увеличить порцию.

В итоге младенец целую неделю постоянно плакал от голода, быстро уставал и почти не набирал вес, пока на плановом осмотре врач не объяснил, что здоровый месячный ребенок должен выпивать не менее 80–100 миллилитров за одно кормление.