Судья в Колумбии использовал ChatGPT для вынесения вердикта. Это первый случай, когда судебное решение было вынесено с помощью текстового генератора искусственного интеллекта.
Согласно судебному документу от 30 января 2023 года, судья городского суда Картахены Хуан Мануэль Падилья Гарсия использовал искусственный интеллект, чтобы задавать вопросы во время судебного разбирательства и использовать его ответы для объявления решения суда.
«Цель включения в приговор текстов, сгенерированных искусственным интеллектом, никоим образом не заключается в том, чтобы изменить или заменить решение судьи. Мы фактически сэкономили время на принятие решения, предоставив проверенную искусственным интеллектом информацию», — сказал судья.
Дело касалось спора со страховой компанией о том, должен ли ребенок с аутизмом получать медицинскую страховку. Объявляя о своем решении, Гарсия в полной мере использовал ответы чат-бота. Судья также заявил, что использовал искусственный интеллект, чтобы «усилить аргументацию решения».
Колумбийское законодательство не запрещает использование ИИ при принятии судебных решений, однако такие системы, как ChatGPT, известны предвзятыми, дискриминационными или просто неправильными ответами, пишет Vice. Это потому, что его языковая модель на самом деле не «понимает» текст — она просто собирает предложения на основе вероятностей из миллионов примеров, которые используются для подготовки текста, пишет издание.
Разработчики ChatGPT и OpenAI ввели фильтры, исключающие более подозрительные и сомнительные ответы, но разработчики предупреждают, что они все еще не идеальны и не должны использоваться для принятия последовательных решений.
Некоторые суды уже начали использовать искусственный интеллект для вынесения приговоров обвиняемым или освобождения под залог, что вызвало резкую критику со стороны защитников этики. Они утверждают, что устройства искусственного интеллекта обычно укрепляют расистские и сексистские стереотипы и усиливают формы неравенства.

Мнения, выраженные в статье, принадлежат автору и могут не отражать официальную позицию LAWHUB.