Умный, но не хватает опыта.
Жительница Иллинойса последовала совету чат-бота и уволила своего юриста, что привело к судебным разбирательствам и многотысячным убыткам для страховой компании. Об этом сообщает NewsNation.
Согласно иску страховой фирмы Nippon Life, два года назад они урегулировали спор о выплатах по инвалидности с женщиной по имени Грасиела Дела Торре. Тогда она подписала все документы, и дело было закрыто, без права повторного обращения в суд.
Однако в прошлом году Дела Торре решила возобновить процесс. Когда её адвокат объяснил, что соглашение окончательное и пересмотру не подлежит, женщина обратилась за консультацией к ChatGPT.
Чат-бот помог ей составить новые судебные документы, с которыми она выступила уже как самостоятельный истец, отказавшись от услуг юриста. Судья отклонил эту попытку пересмотреть дело.
Не остановившись на этом, женщина подала новый иск, заполнив судебный реестр десятками документов, также созданных с помощью нейросети. Страховая компания Nippon оценила свои расходы на разбирательство этой "бумажной волокиты" почти в 300 тысяч долларов.
Эксперты называют этот случай беспрецедентным, так как истец полностью самостоятельно прошел часть судебной системы с помощью ИИ, а не просто использовал его для консультаций.
По словам аналитиков, ИИ, в отличие от человека, обладает доступом к огромному объёму информации, но лишён практической мудрости и опыта. В ситуации, когда однозначного правильного ответа не существует, нейросеть может просто "додумать" решение, чтобы дать желаемый пользователю ответ.
Инцидент поднимает важные вопросы о границах использования искусственного интеллекта в юридической сфере, особенно когда дело касается непрофессионалов. Способность чат-ботов убеждать и генерировать правдоподобные, но ошибочные аргументы может приводить к серьёзным финансовым и правовым последствиям для всех участников процесса.