Штучний інтелект, що подорожує у минуле: Знайомство з Talkie-1930
Світ штучного інтелекту постійно дивує нас новими звершеннями. Цього разу група талановитих розробників, серед яких колишній співробітник OpenAI Алек Редфорд, представила унікальну експериментальну мовну модель. Її особливість полягає в тому, що вона “живе” у зовсім іншій епосі – 1930-х роках, адже навчена виключно на текстах, написаних до 1931 року.
Ця “вінтажна” модель, Talkie-1930-13B, пройшла навчання на вражаючій кількості приблизно 260 мільярдів текстових одиниць (токенів) англійською мовою. До її “світогляду” увійшли класичні книги, тогочасні газети, наукові журнали, патенти та юридичні документи. Ідея розробників проста, але геніальна: якщо сучасні ШІ знають майже все, то “ретро-версії” дозволяють дослідити, як штучний інтелект поводиться без доступу до актуальних знань. Чи зможе він самостійно “додуматися” до відкриттів, які людство зробить значно пізніше?
Що вміє наша “машина часу”?
Звісно, Talkie-1930 не може конкурувати з найсучаснішими ШІ за обсягом знань. Вона не знає про Другу світову війну, Організацію Об’єднаних Націй чи бурхливий розвиток цифрових технологій. Хоча, зізнаємося, іноді через певні недоліки у даних трапляються “витоки” сучасної інформації, що додає інтриги.
Проте, модель демонструє вражаючі здібності у фундаментальних аспектах:
- Глибоке розуміння мови.
- Логічне мислення.
- Базові математичні операції.
Навіть не маючи знань про програмування, Talkie-1930 інколи може створювати простий код, якщо їй надати відповідні приклади. Наприклад, вона здатна відтворити логіку певної функції або навіть інвертувати її дію.
Навіщо нам “подорож у минуле”?
Розробники пояснюють, що такі моделі – це потужний інструмент для досліджень. Вони допомагають зрозуміти, як саме штучний інтелект узагальнює інформацію, дозволяють перевірити його здатність прогнозувати майбутнє та допомагають зменшити проблему “забруднення” даних (коли модель просто запам’ятовує відповідь, а не розуміє її суті).
Окремий, надзвичайно цікавий аспект – перевірити, чи зможе модель, “застрягла” у минулому, самостійно дійти до значних відкриттів. Наприклад, чи могла б вона “винайти” теорію відносності, як це вдалося Альберту Ейнштейну?
Порада від Шефа:
Ключ до розуміння таких моделей – це “чистота” даних. Уявіть, що ви готуєте страву за старовинним рецептом, використовуючи тільки автентичні інгредієнти. Так само Talkie-1930 “готує” свої відповіді, спираючись виключно на “інгредієнти” минулого століття. Це дає унікальну можливість побачити, як народжуються знання, без “домішок” сучасного світу.
За даними порталу: ain.ua