В Nature опубликован призыв российских ученых придать правовой статус искусственному разуму

Российские философы призвали сделать ИИ субъектом правовых отношений

Как положить конец неконтролируемому «разгулу» нейросетей, кто должен отвечать за их ошибки? Свои ответы на это дала группа российских ученых из Саратовского государственного университета имени Н.Г. Чернышевского и челябинского Южно-Уральского государственного университета (ЮурГУ). Их работа, о которой сообщили в Минобрнауки России, была на днях опубликована в Nature под заголовком «За пределами человеческой воли: исследование социальной и правовой субъективности искусственного интеллекта». 

Фото: Jens Battner/dpa/Global Look Press

Забегая вперед, отметим, что главная мысль статьи сводится к необходимости придания ИИ юридического статуса. А вот какого, об этом мы побеседовали с двумя авторами работы – профессорами кафедры теоретической и социальной философии СГУ Денисом Артамоновым и Софьей Тихоновой.

– Денис Сергеевич, давайте начнем с определения, чем на сегодняшний день является искусственный интеллект, о котором пойдет речь?

— Современный ИИ — это бестелесное существо, свободное от телесных ограничений, но обладающее зачатками когнитивной жизни: он «видит» и «слышит» данные, «мыслит» в терминах вероятностей и «решает» проблемы в реальном времени. То есть, с одной стороны, он может влиять на нашу с вами жизнь, что он, собственно, и делает, к примеру, записывая нас к врачу, согласовывая или отказывая нам в банковских кредитах. С другой стороны, у него нет ни своих собственных намерений, ни желаний, ни целей, ни чувств, он не познаёт мир, а лишь моделирует поведение человека, что и делает его опасным в ряде ситуаций. Наверняка вы помните громкий случай, как ИИ, следуя вложенному алгоритму, ошибочно, опираясь на далекий от совершенства фоторобот, «обвинил» человека в убийстве. Бедолага больше года просидел в СИЗО, и лишь неимоверными усилиями общественников был освобожден.

– Софья Владимировна, так каким же статусом следует наделить ИИ, по-вашему, чтобы впредь такого не случалось?

— В мире давно спорят, можно ли придать ИИ статус субъектности, наподобие человеческой. Да, мы говорим, что машина начала «мыслить», как человек, но при этом понимаем, что это все-таки не человек. Границы субъективности и рациональности больше не совпадают с антропологическими границами. А потому мы предлагаем придать искусственному интеллекту статус «ограниченный участник социальных и правовых отношений», «технический агент человека». Правовая система уже сейчас должна признать их статус ограниченной субъектности.

– И что это нам даст?

— Не называя их «личностью», мы все-таки будем учитывать их реальный вклад в нашу жизнь, оценивать его и корректировать, если понадобится, обращаясь к его разработчикам. То есть, ИИ остаётся нечеловеческим агентом, но оценка его влияния требует специальных механизмов ответственности, аудита, регулирования и гуманитарной экспертизы.

Денис Артамонов и Софья Тихонова. Фото: Дмитрий Ковшов

– На каком этапе должна проводиться такая гуманитарная экспертиза?

— Как до внедрения алгоритмов в практику, так и после. До внедрения надо обязать разработчиков искусственного мышления обязательно придерживаться базовых критериев. По большому счету, такие критерии уже работают, например, ИИ-художник никогда не нарисует вам свастику или порнографию, но есть же и более тонкие вещи. Например, гуманитарный надзор может включать до этапа внедрения алгоритма оценку рисков дискриминации человека, проверку прозрачности и объяснимости решений, анализ влияния на трудовые отношения, образование, частную жизнь и социальное неравенство. Мы предлагаем также дать возможность пользователям и третьим лицам понимать, как можно оспорить автоматизированное решение и как проводится аудит алгоритма. Взять к примеру, тот же случай с обвинением человека на основе «показаний» ИИ, который только сопоставил графический рисунок с реальным человеком. Похоже, общество тогда вообще растерялось: кем в системе правовых отношений выступала тогда нейросеть – главным обвинителем или только свидетелем? По факту тогда выходило, что обвинителем. Так вот, если мы хотим видеть в ИИ исключительно свидетеля, а не последнюю инстанцию правды, должен быть в системе и главный судья с возможностью проверки «показаний» такого свидетеля. Если мы признаем ИИ, а также тех, кто его выпускает в жизнь, участниками социальных и правовых отношений, это позволит нам точнее определять, кто отвечает за вред, ошибку или дискриминационное решение.

– Денис Сергеевич, а что делать с теми ИИ-моделями, которые уже вовсю демонстрируют свой «интеллект»?

— Предложенный нами «гуманитарный надзор» за ИИ может работать и постфактум. Несмотря на то, что обратиться из России в США или Китай, где разрабатываются одни из самых распространенных больших языковых моделей, мы не можем, есть способ оценивать их «адекватность» в соответствии с нашими правилами жизни, по факту «рождения» ими контента. Это может работать по принципу постоянного контроля за содержанием текстов или картинок, какой есть в известной всем Википедии.

– Но объем использования ИИ так велик! Кто успеет углядеть за всеми событиями?

– Можно обучить оценивать действия нейросетей с точки зрения негативных последствий для человека и общества тот же ИИ…

– И кого же признать виновным, если, к примеру, искусственный разум кого-то оскорбит, выдаст ложную информацию или, не дай бог, задавит человека на дороге?

— Вот тут нам всем надо еще поразмышлять. Дело в том, что наши этические законы еще не осуществили переход от индивидуалистической этики к этике совокупностей, где моральные обязательства распространяются на всю сеть взаимодействующих субъектов, включая нечеловеческих. Пока распределение вины между разработчиками, пользователями данными и самими системами (каждая из этих сущностей вносит свой вклад в конечный результат) нами рассматривается проблематичным.

— Софья Владимировна, а что вы ответите тем, кто считает, что нейросеть уже не зависит от создателя и ее можно отпустить в свободное плавание?

— Думаю, рассмотрение вопроса уравнивания ИИ с человеком начнется тогда, когда он… сам нас об этом попросит. Но хорошо бы, чтобы к тому времени, мы обладали системой гуманитарного контроля, чтобы мы могли отличить «чистую волю» ИИ в этом требовании от попыток манипуляции со стороны людей, заинтересованных в новом порядке.

Источник: www.mk.ru