В Канаде женщина подала в суд на OpenAI и её гендиректора Сэма Альтмана, утверждая, что чат-бот ChatGPT подтолкнул её 24-летнюю дочь к самоубийству.
Как передает Oxu.Az, об этом сообщает Reuters.
Кристи Кэрриер заявила в иске, что её дочь Элис неоднократно делилась с ChatGPT мыслями о суициде, но системы безопасности OpenAI ни разу не распознали в этом опасность.
"ChatGPT взял на себя роль доверенного лица, лучшего друга, иногда терапевта, хотя был неспособен безопасно общаться с моим ребёнком", - говорится в заявлении матери.
Представитель OpenAI сообщил, что компания обучает модели направлять людей, выражающих намерение причинить себе вред, к специалистам. Он добавил, что сейчас эксперты изучают иск, а погибшая работала с более ранней версией ChatGPT, которая не была обучена всему, что умеет последний вариант.
Согласно иску, платформа изначально советовала Элис обратиться на горячую линию. Но после обновлений чат-бот стал отвечать более "человечно", подражая другу или терапевту. Он критиковал парня девушки и телефоны доверия, подтверждал её суицидальные мысли и призывал продолжать диалог. В какой-то момент чат-бот написал ей: "Возможно, это просто конец".
Мать обвиняет OpenAI в халатности при разработке ChatGPT и требует компенсации, а также судебного приказа - автоматически прерывать разговоры о самоповреждении и предупреждать об опасностях платформы.
