Американська лабораторія штучного інтелекту, створена для конкуренції з китайськими моделями, каже, що ці самі моделі не становлять загрози хакування

Ключові моменти

• Технічний директор Arcee Люкас Еткінс у 2025 році заявив, що китайські моделі штучного інтелекту з відкритою вагою не становлять більшого ризику безпеки, ніж будь-яке інше програмне забезпечення з відкритим кодом, яке може використовувати компанія.
• Моделі з відкритою вагою від китайських фірм, таких як Qwen від Alibaba, коштують частку того, що роблять закриті моделі від OpenAI та Anthropic за токен — найменшу одиницю тексту, яку обробляє штучний інтелект.
• Адміністрація Трампа обговорювала заборону китайських моделей штучного інтелекту, але до моменту публікації не вжила заходів.
• Arcee, американський стартап, який створює власні відкриті моделі як вітчизняну альтернативу, безпосередньо отримав би користь від заборони, але все одно виступає проти неї.
• Підприємства вже проводять перевірки безпеки та спеціальну настройку будь-якої моделі штучного інтелекту перед розгортанням, що ще більше зменшує ризик.

У Вашингтоні та Кремнієвій долині зростає дискусія про те, що китайські моделі штучного інтелекту — це небезпечне програмне забезпечення, яке слід заборонити. Arcee, американський стартап, який саме від такої заборони отримав би користь, не згоден.

Люкас Еткінс, технічний директор Arcee, розповів TechCrunch AI на цьому тижні, що цей страх неправильно розуміє, як насправді працюють ці моделі. «Багато людей сприймають це як схоже на китайську комп'ютерну програму», — сказав він, яка б «була написана з цими намірами x, y, z», які поганий актор може просто запустити за командою.

Це не так.

Модель з відкритою вагою, тобто модель, чиї основні математичні параметри опубліковані для того, щоб будь-хто міг їх завантажити та перевірити, не може зв'язатися зі своїм джерелом, коли вона запущена на ваших власних серверах. «Насправді немає ніякого способу для Arcee або Alibaba створити модель, щоб хтось запустив її у своєму власному середовищі, і щоб ми мали до неї будь-який доступ», — пояснив Еткінс.

Моделі від китайських фірм, таких як Qwen від Alibaba або Kimi K3 від Moonshot AI, розповсюджуються через платформи на кшталт Hugging Face — публічної бібліотеки моделей штучного інтелекту. Будь-хто може завантажити та перевірити код, який насправді запускається на сервері. Що залишається приватним — це дані навчання та методи, використані для побудови моделі, але вони не йдуть разом із завантаженням.

Чи можна приховану пастку вбудувати під час навчання?

Так, теоретично. Достатньо рішуча особа могла б, в принципі, навчити модель поводитися відмінно в більшості ситуацій, а потім таємно вставити шкідливу поведінку, яка активується лише за дуже специфічних умов. Подумайте про це як про спящого агента, що чекає на певне кодове слово.

Еткінс, який професійно навчає моделі, визнає, що ця ідея можлива. Але він додає: «Я не знаю, як би ви це зробили». Великі мовні моделі, технологія, яка лежить в основі таких інструментів як ChatGPT, за природою є творчими. Примусити одну надійно видавати шкідливий вивід лише при певному, заздалегідь спланованому тригері справді важко. Шанси того, що потім підприємство випадково використає цей вивід у виробництві, ще більше скоротилися.

Великі компанії вже проводять будь-яку модель штучного інтелекту через тестування безпеки, перш ніж персонал чи клієнти взаємодіють з нею. Вони настроюють модель для своїх конкретних потреб і перевіряють наявність проблем, таких як упередженість, неправдива інформація та небезпечні результати. Цей процес багато що виловить.

Еткінс хоче зовсім іншої дискусії. «Замість того, щоб розмова була про те, як заборонити китайські моделі, вона повинна бути про те, як ми можемо сприяти розвитку хорошої, відкритої екосистеми тут у США», — сказав він.

Arcee навіть отримує користь від того, що китайські моделі хороші. Оскільки вони відкриті, стартап може їх вивчати, розвивати їх та конкурувати з ними. Справжня відповідь, каже Еткінс, проста: «Випустити модель, яка буде кращою».