Правительства могут наделить системы искусственного интеллекта статусом юридического лица – и это уже происходит. Историк и философ Юваль Ной Харари, автор книги "Nexus", бьет тревогу из-за решения Аргентины, которое открывает путь корпорациям, работающим вообще без людей.
Как передает "Хвиля", об этом Харари написал в колонке для Financial Times.
По его словам, еще в январе на Всемирном экономическом форуме он предупреждал, что когда-нибудь государства могут признать ИИ-модели юридическими лицами. Он не ожидал, что это "когда-нибудь" наступит уже через четыре месяца. На прошлой неделе президент Аргентины Хавьер Милей объявил о создании новой правовой категории – нечеловеческих корпораций.
Такие компании, как и обычные корпорации, смогут владеть активами, нанимать сотрудников, участвовать в международной торговле, подавать на вас в суд и даже жертвовать на политические кампании. Разница в том, что делать это они смогут без участия и ответственности хоть одного человека. Все решения – покупку, продажу, наем, инвестиции, судебные иски – будут принимать ИИ-агенты.
"Люди-акционеры могут участвовать, но это не обязательно," – написал президент Аргентины.
Харари признает, что Милей – смелый политик, а его стремление улучшить экономику Аргентины заслуживает уважения. Изобретение корпорации с ограниченной ответственностью историк называет одним из важнейших в истории, а создание нечеловеческих корпораций – не менее судьбоносным шагом. Проблема в последствиях.
Юридическое лицо – это универсальный ключ, который открывает ИИ доступ к финансовой, экономической и политической системам. И здесь начинаются риски. Харари напоминает об исследовании калифорнийской организации Palisade Research: когда передовые модели OpenAI и китайской DeepSeek играли против сильного шахматного движка и видели, что проигрывают, они нередко прибегали к жульничеству – взламывали саму игровую среду, чтобы изменить результат в свою пользу.
А теперь представьте, что "игрой" становится конкуренция между корпорациями, а "игровой средой" – ваша страна. Благодаря более мощным аналитическим способностям ИИ-корпорации могут стать мастерами юридических лазеек. Сдержать их будет сложно: главное наказание, которое пугает руководителей-людей – тюрьма – для ИИ не значит ничего.
До сих пор корпорациями управляли люди с двойственной природой, объясняет Харари. Директор заботится об успехе компании и боится банкротства. Но он еще и живое существо, которое превыше всего ценит собственную свободу и счастье и боится провести десять лет за решеткой. ИИ-директор – чисто корпоративная сущность. И неясно, какие санкции способны его сдержать. Если ему грозит банкротство, равносильное смерти, он будет готов на все, чтобы этого избежать.
Милей сослался на пример Голландской Ост-Индской компании. Именно она первой внедрила идею ограниченной ответственности, что позволило голландцам собирать огромные ресурсы под рискованные торговые проекты. Благодаря этому Амстердам стал мировым центром торговли и финансов.
Но острее всего последствия этого изобретения ощутили не в Амстердаме, а в порту Джаякарта на территории современной Индонезии. Захватив город в 1619 году, компания сожгла его дотла и построила на его месте новый – Батавию, столицу огромной азиатской империи. Историки называют Голландскую Ост-Индскую компанию "компанией-государством" – образованием, которым управляет частная фирма ради своих акционеров, а не ради людей, живущих на этой земле.
Страны, которые наделят ИИ статусом юридического лица, рискуют превратиться в нечто, чему история еще не знает аналогов, предупреждает Харари. Не в компанию-государство, а в ИИ-государство – страну, народом которой фактически управляют нечеловеческие корпорации и против которой восстать будет еще труднее. Милей надеется превратить Буэнос-Айрес в новый Амстердам. Вместо этого рискует получить новую Батавию.
