Компанія Anthropic, що займається розробкою ШІ, офіційно підтвердила випадковий витік інформації про свою найпотужнішу на сьогодні модель ШІ, пише УНН з посиланням на Mashable.
Деталі
Модель, тепер відома як Claude Mythos, була вперше виявлена у звіті Fortune. Anthropic підтвердила подробиці витоку виданню.
За даними Fortune, витік даних включав інформацію про майбутній випуск моделі ШІ Claude Mythos, "ексклюзивний захід для генерального директора" та інші внутрішні матеріали, такі як PDF-файли та зображення. Загалом витік включав майже 3000 матеріалів, які Anthropic раніше не публікувала.
За даними Anthropic, витік стався через проблему із системою управління контентом (CMS), яку використовує компанія. Anthropic не позначила ці елементи як приватні, тому дані були збережені в загальнодоступному сховищі даних.
Відповідно до витоку про Claude Mythos, Anthropic завершила навчання моделі і називає її "на сьогодні найпотужнішою моделлю ШІ, яку ми коли-небудь розробляли". У заяві, наданій Fortune після витоку, представник Anthropic описав Claude Mythos як "якісний стрибок" у продуктивності ШІ і заявив, що модель "найфункціональніша з усіх, що ми створили на сьогодні". Anthropic заявляє, що Claude Mythos зараз перебуває на стадії тестування і доступний обраним "клієнтам раннього доступу".
Окрім нової моделі ШІ, в повідомленні також згадується новий, ще не випущений рівень моделей ШІ від Anthropic під назвою Capybara. У цей час Anthropic пропонує три різні рівні для кожної зі своїх моделей ШІ: Opus, Sonnet та Haiku. Opus в цей час є найпотужнішим і найдорожчим рівнем, тоді як Haiku – найменшим і найменш дорогим. Capybara буде навіть вище Opus, будучи найбільшим та найбільш інтелектуальним рівнем моделей ШІ від Anthropic.
У повідомленні також докладно описуються побоювання Anthropic з приводу ризиків кібербезпеки, які є у Claude Mythos. Очевидно, Anthropic вважає, що Claude Mythos можуть використати хакери для кібератак. "Готуючись до випуску Claude Capybara, ми хочемо діяти з особливою обережністю і розуміти ризики, які він представляє – навіть крім того, що ми дізнаємося в ході власних випробувань, – ідеться в повідомленні Anthropic. – Зокрема, ми хочемо зрозуміти потенційні короткострокові ризики, пов'язані з цією моделлю, у сфері кібербезпеки і поділитися результатами, щоб допомогти фахівцям з кіберзахисту підготуватися".
Компанія Anthropic описала свою ще не випущену модель як таку, що "в цей час значно випереджає будь-яку іншу модель ШІ в галузі кібербезпеки" і заявила, що модель "передбачає майбутню хвилю моделей, які зможуть використовувати вразливості способами, що значно перевершують зусилля фахівців із захисту". У блозі, що просочився в мережу, компанія заявила, що надає ранній доступ до проєкту, щоб дати організації "перевагу в підвищенні надійності їх кодових баз проти хвилі експлойтів, що керуються ШІ".
Суд у США заблокував заборону адміністрації Трампа на ШІ від Anthropic у сазі з Пентагоном27.03.26, 18:39 • 4316 переглядiв
