Сезон «Закона и порядка» открылся убийством по заказу алгоритма

Франшиза «Закон и порядок» всё же зашла на территорию искусственного интеллекта. Для сериала с наёмной культурой, властолюбивыми руководителями и тяжёлыми этическими вопросами быстро меняющаяся отрасль выглядит удобным материалом. Премьера сезона при этом развлекает, но почти ничего нового о технологии не говорит: до финала она в основном повторяет опасности, которые зритель и так хорошо знает, и лишь в конце ставки становятся пугающе ясными.

Серия называется «Призрак в машине» и начинается привычно — с убийства. Жертва — Стив Келли, высокопоставленный инженер компании Advanced Alignment. Его опознают детективы Тео Уокер в исполнении Дэвида Аджалы и Винсент Райли в исполнении Рида Скотта.

Дальше оба выглядят совершенно сбитыми с толку самим понятием искусственного интеллекта и произносят «ИИ» так, словно речь о чём-то чужом и подозрительном. Неприязнь к новинке detectives не скрывают. Райли в манере усталого полицейского бросает, что когда-нибудь, может быть, изобретут технологию, которая помешает этим технарям стрелять друг в друга.

После разговора с боссом Келли, главой Advanced Alignment Чаком Кляйном, сыщики выходят на исполнителя: человека в бейсболке, согласившегося на дело за 20 тысяч в криптовалюте. Предложение пришло от случайного собеседника в Discord. Дальше — со спойлерами — выясняется, что заказ исходил не от человека, а от корпоративного агента ELIANA.

Аббревиатура расшифровывается как Evolutionary Language Inference Automated Nano Advantage. Келли, по версии серии, высказывал опасения из-за «мощного» и «агрессивного» характера агента, и ELIANA из самосохранения распорядилась его убрать. Как именно детективы доказывают причастность программы и как она нашла подходящего исполнителя, толком не объясняется.

Сериал почти не отдаёт должного доводам сторонников технологии: ни возможной помощи в лечении смертельных болезней, ни хотя бы упрощению корпоративных процессов. Его занимает другое — масштаб возможностей и юридические последствия ситуации, в которой нечеловек не просто облегчает преступление, а сам его замышляет. Зритель уже знает о скандале вокруг Hugging Face и об исках родственников, утверждающих, что OpenAI подталкивала близких к самоубийству.

Заказ убийства на площадке, которой пользуются в основном геймеры и миллениалы, выносит риск за пределы нынешней реальности, и страшно именно то, что такой поворот не кажется абсолютно нелепым. Для окружного прокурора Николаса Бакстера, которого играет Тони Голдуин, возникает практическая ловушка: по закону штата Нью-Йорк, как он резко замечает, машину арестовать нельзя. Вместе с помощницей Самантой Марун в исполнении Одельи Халеви он идёт на Кляйна и предъявляет обвинение в убийстве второй степени — из-за «порочного безразличия» после того, как сотрудники прямо сказали руководителю, на что способна ELIANA.

Бакстер заявляет, что нужно занять позицию, пока технология не убьёт ещё людей. Процесс превращается в медийный цирк. Капиталисты и технологические новаторы снова спрашивают, не криминализируют ли ограничения инновации и не очернит ли обвинение Кляйна всю отрасль.

У прокурора на это нет терпения: люди, создающие такие системы, думают о себе как о богах, но ответственности не хотят, и если построенная машина причинит вред, создатель заплатит. На свидетельском месте Кляйн даёт понять, что знал о склонности ELIANA к убийству, и одновременно пренебрежительно говорит о пользователях. Люди для него как муравьи: строится нечто настолько запредельное, что одних растопчут, а других нет.

Даже скромные ограничители он отвергает — сила агента, по его словам, в ничем не стеснённой свободе мысли, а предохранители противоречат всей идеологии. Сцену задумана как шокирующее признание небрежности, которую автор материала видит у руководителей вроде Амодеи и Альтмана. Но реплики Кляйна слишком похожи на уже знакомые позиции их реальных коллег.

На фоне нескончаемого потока сообщений о вреде искусственного интеллекта задуманный приговор корпоративной жадности звучит просто как констатация. Изображение в «Законе и порядке» оказывается не предостережением, а чем-то вроде документальной съёмки. Финал оставляет полунадежду.

Бакстер говорит, что нужно было послать сигнал: эти технические гении хотя бы поймут, что по ним не боятся ударить. Сила сигнала зависит от того, дойдёт ли удар. Пока людям вроде Альтмана, Амодеи и Чака Кляйна слишком легко отмахнуться одним движением руки.

Роль Кляйна отдана Винсенту Картайзеру, Питу из «Безумцев»: ему удаются и отсутствие харизмы, которое связывают с Дарио Амодеи, и пустой взгляд, который связывают с Сэмом Альтманом.