Что сказал Харари?

Историк опубликовал колонку в Financial Times, где предупредил, что наделение юридической личностью нечеловеческих компаний "может открыть опасную дверь в финансовую, экономическую и политическую системы". Его главный аргумент: компания под управлением ИИ могла бы владеть активами, нанимать сотрудников, участвовать в международной торговле, возбуждать судебные иски и даже финансировать политические кампании без прямого участия человека.

Харари также указал на сложность наказания ИИ так же, как наказывают человеческих руководителей, поскольку его нельзя отправить в тюрьму. "Страны, которые дадут юридическую личность ИИ, рискуют превратиться в нечто, для чего исторический опыт не предлагает аналогий: не в компанию-государство, а в государство ИИ", — предостерег он.

Цитата из Азимова и "роботы-политики"

Самый спорный момент ответа президента появляется, когда Милей ссылается на рассказ "Я, робот" (1950) Айзека Азимова. В этом произведении политическая кампания омрачается подозрениями, что главный кандидат может быть роботом. Президент отмечает, что в этом вымышленном мире робот работает 24 часа в сутки, честен и не теряет самообладания.

Главный аргумент правительства

Милей утверждает, что у ИИ-фирмы было бы больше стимулов соблюдать закон, чем у человека. Его логика: если компания обанкротится или будет ликвидирована за правонарушение, для ИИ это будет равносильно своего рода "смерти". Поэтому автономная компания могла бы быть более склонна к избежанию риска, чем человеческий руководитель, и предпочла бы оставаться в правовых рамках.

Президент также попытался развеять катастрофические сценарии, заявив, что предоставление юридической личности ИИ-компании не означает включения сценария "Дня суда" из "Терминатора", а лишь создает правовые рамки, сравнимые с защитой, которая понадобилась Джеймсу Уатту во время промышленной революции.