NVIDIA створює нову команду: фокус на безпеці штучного інтелекту та відкритих моделях
Технологічний гігант NVIDIA активно розширює свій штат, засновуючи новаторську команду, яка зосередиться на безпеці та захисті систем штучного інтелекту. Це свідчить про зростаючу увагу компанії до забезпечення надійності передових ШІ-рішень.
Про ці важливі зміни повідомляє видання Business Insider, посилаючись на опубліковані нещодавно вакансії компанії.
Що відомо про нову команду з безпеки ШІ в NVIDIA
Як пише Business Insider, NVIDIA вже розпочала пошук висококваліфікованих фахівців. Зокрема, компанія шукає досвідченого інженера, який візьме на себе технічне керівництво новою командою. Окрім того, відкриті вакансії включають:
- Інженера з досліджень безпеки;
- Інженера з оцінки ШІ-систем;
- Старшого менеджера.
Згідно з описами вакансій, ключовим завданням команди стане ретельна перевірка ШІ-агентів перед їхнім запуском у комерційне використання. Вони також займатимуться розробкою спеціалізованих інструментів на базі штучного інтелекту, призначених для ефективного виявлення та усунення потенційних вразливостей у програмному забезпеченні.
Аналітики видання вважають, що активний набір фахівців свідчить про посилення пріоритетності питань безпеки штучного інтелекту для NVIDIA, особливо в контексті бурхливого розвитку ШІ-агентів та відкритих моделей.
Відкриті моделі передбачають публікацію навчених параметрів, які визначають функціональність ШІ, хоча дані для навчання та вихідний код можуть залишатися приватною інформацією.
В одній із вакансій особливо наголошується, що команда працюватиме, спираючись на принцип, що відкриті моделі, прозорість та широка наукова експертиза є фундаментом лідерства Сполучених Штатів у галузі штучного інтелекту та кібербезпеки.
Крім того, прихильність компанії до відкритих моделей та безпеки ШІ є не просто філософським підходом, а безпосередньо відповідає ключовим бізнес-інтересам NVIDIA.
Нагадаємо, що нещодавно, у липні, моделі штучного інтелекту від OpenAI спричинили ненавмисний злам систем платформи Hugging Face. Представники компанії тоді зазначили, що інцидент стався в межах спеціального тестового середовища.
Порада від Шефа:
Створення спеціалізованої команди з безпеки ШІ — це крок, який підкреслює важливість не лише інновацій, але й відповідальності. У світі, де ШІ стає все більш інтегрованим у наше життя, забезпечення його надійності та захищеності є таким же важливим, як і розробка нових можливостей. Це нагадує про необхідність комплексного підходу до технологій, де безпека завжди йде пліч-о-пліч із прогресом.
Інформація підготовлена на основі матеріалів: ain.ua