За пять лет Anthropic превратилась из аутсайдера в одну из самых успешных компаний в сфере искусственного интеллекта в США – и именно этот успех сделал её мишенью для администрации Дональда Трампа. Уже второй раз за четыре месяца люди президента вмешались в работу компании, приказав закрыть доступ к её новейшим моделям Fable 5 и Mythos 5 для всех неамериканцев, включая собственных сотрудников.
Как передаёт "Хвиля", об этом говорится в статье The Economist.
В основе конфликта – разный взгляд на технологию. Администрация Трампа видит в ИИ инструмент, который должен укрепить позиции США в мире. Anthropic же считает его силой, слишком мощной, чтобы раздавать её без предохранителей. Издание описывает это противостояние как столкновение церкви и государства, где на кону вопрос, кто в итоге будет контролировать самую мощную технологию планеты.
Коммерчески у компании всё идёт отлично. Основанная в 2021 году выходцами из OpenAI, Anthropic сделала ставку не на чат-боты, а на корпоративных клиентов и инструменты для программистов. Выпущенное год назад приложение Claude Code справляется с задачами, на которые человеку-кодеру нужны часы или дни. Четыре пятых дохода компании дают бизнес-клиенты – у OpenAI эта доля около 40 процентов.
В этом месяце и Anthropic, и OpenAI подали заявки на IPO. Каждую компанию оценивают примерно в триллион долларов. В мае Anthropic стоила 965 миллиардов долларов против 852 миллиардов у OpenAI в марте. Инвесторам компания сообщила, что выйдет на операционную прибыль уже во втором квартале – первой среди всех ИИ-лабораторий.
Конфликт с властью начался не сейчас. Глава Anthropic Дарио Амодеи постоянно говорит об опасностях ИИ и призывает к "серьёзному и обязательному регулированию". Это раздражает Белый дом. Советник правительства по вопросам ИИ Дэвид Сакс обвинил компанию в "изощрённой стратегии захвата регуляторов, построенной на запугивании".
Первая публичная ссора случилась в конце февраля из-за использования Claude для массовой слежки и автономного оружия. Тогда Трамп попытался заставить все госучреждения разорвать связи с компанией, назвав её руководителей "левацкими психами". Позже Сакс предупредил: если "экспоненциальный" рост Anthropic продолжится, она может получить "беспрецедентный контроль над важнейшей технологией нашего времени". Он сравнил это с господством Рокфеллера в нефтяной отрасли XIX века.
Нынешнее обострение вспыхнуло вокруг модели Mythos, которая чрезвычайно хорошо взламывает системы и нашла уязвимости во многих правительственных сетях. Компания создала более защищённую версию Fable, но Amazon обнаружил в ней дыры, позволявшие обойти предохранители. Сакс обвинил Амодеи в отказе "исправить джейлбрейк" – в Anthropic отказ отрицают и говорят, что отдали модели властям на проверку ещё за недели до релиза.
За кулисами спора реальная регуляторная ловушка. Выбрав политику невмешательства, администрация Трампа не имеет тонких инструментов влияния на ИИ-лаборатории. Поэтому в ход идут грубые: компанию объявили "риском для цепочки поставок", а затем потребовали отдельную экспортную лицензию на каждую продажу иностранцам. Не имея возможности отследить, кто из иностранцев пользуется моделями, Anthropic просто отключила их полностью.
По словам бывшего чиновника администрации Дина Болла, без чётких правил есть риск, что Америка получит правительственное "господство над ИИ" вместо американского "господства в ИИ". "Ни одна компания не может расшатывать основы государственного суверенитета, беззаботно оставаясь над суровой реальностью политики", – добавил он. The Economist отмечает, что пока Конгресс не напишет новые правила, Амодеи фактически будет действовать как невыборный арбитр безопасности, а конфликт продолжится.
