Кто отвечает за ошибку ИИ: компания и первый руководитель, а не разработчик алгоритма

Вопрос ответственности за ошибочные решения искусственного интеллекта уже получил достаточно чёткий юридический ответ в правоприменительной практике разных стран. Ответственность ложится не на создателя алгоритма и не на саму программу, а на организацию, которая внедрила систему, и конкретных должностных лиц, которые приняли решение о её использовании.

Практика единообразна: ссылка на то, что «решение принял алгоритм», юридически не работает. Алгоритм не является субъектом права и не может нести ответственность. Поэтому за каждым решением ИИ в конечном итоге стоит человек, который его внедрил и допустил к работе.

Это означает, что автоматизация не размывает, а, наоборот, усиливает персональную ответственность первого лица компании. Генеральный директор и специалисты, использующие результаты ИИ, остаются полностью подотчётными.

Чтобы восстановить баланс между контролем и ответственностью, регулирование и лучшие практики требуют обязательного человеческого надзора. Ключевые решения с высокой ценой ошибки и необратимыми последствиями не должны полностью отдаваться алгоритму, даже если он работает быстрее человека. Для остальных решений устанавливаются чёткие пороги, при превышении которых система обязана остановиться и передать вопрос человеку.