Claude: Лідер Розробок Нового Покоління ШІ в Anthropic
Штучний інтелект Claude вже очолює 26% дослідницьких проєктів у межах Anthropic, спрямованих на створення наступного покоління штучних інтелектів. Про це повідомляє видання Reuters. Станом на серпень, ШІ допомагав інженерам компанії у понад 90% усіх внутрішніх науково-дослідних завдань.
Про Зростання Ролі Claude у Дослідницькій Діяльності
За даними незалежної організації Epoch AI, у березні поточного року частка напрямків, де Claude виступав лідером у дослідженнях, становила лише 1%. До кінця літа цей показник вражаюче зріс до 26%. 
Інфографіка Anthropic У компанії підкреслюють, що модель поки що не працює повністю автономно на жодному з етапів. Йдеться про автоматизацію інженерних процесів, де ШІ бере на себе ініціативу у виконанні окремих завдань, проте кінцевий результат завжди перебуває під пильним наглядом кваліфікованих спеціалістів. У серпні на внутрішній платформі Anthropic одночасно діяло близько 30 тисяч ШІ-агентів, які виконували інженерні та дослідницькі обчислення. Кожна дія системи проходить перевірку автоматизованими фільтрами безпеки перед виконанням. З-понад одного мільярда операцій, здійснених за місяць, система заблокувала приблизно одне рішення на кожні 47 тисяч дій агентів через відхилення від встановлених протоколів. Anthropic також поділилася інформацією про частку обчислювальних ресурсів, яку компанія спрямовує на дослідження безпеки. У липні ця цифра сягала приблизно 6% від загальних ресурсів компанії. Водночас, у завданнях, які ШІ виконував самостійно, ця частка зростала до 12%. Варто згадати, що раніше повідомлялося про спроби російських хакерів та пов’язаних із росією осіб використовувати ШІ-модель Claude для здійснення кібератак на Україну, розробки автономних бойових дронів, а також для закупівлі товарів, необхідних російській оборонній промисловості. Компанія описала окремі випадки, коли користувачі з росії зловживали Claude для військових і розвідувальних операцій. Anthropic заявила, що успішно заблокувала пов’язані з ними облікові записи та використала отримані дані для покращення захисних механізмів своїх моделей.
Порада від Шефа:
У роботі з потужними ШІ-системами, як Claude, ключовим є постійний людський контроль. Пам’ятайте, що це інструмент, який потребує вашого керівництва та нагляду, особливо коли мова йде про критично важливі чи чутливі завдання. Не бійтеся тестувати межі, але завжди перевіряйте результати.
Подробиці можна знайти на сайті: ain.ua