Штучний інтелект здатний створити біологічну зброю - Bloomberg [ Редагувати ]

Штучний інтелект може допомагати користувачам створювати біологічну зброю. З таким попередженням Білому дому виступив біохімік і колишній інспектор ООН Рокко Касагранде, пише Bloomberg. До такого висновку він дійшов після аналізу чат-бота Claude.

Касагранде ще навесні 2023 року повідомив чиновникам Білого дому США, що ШІ може допомогти терористам працювати з сильнодійними токсинами та створювати нові віруси.

Біохімік також стверджував, що штучний інтелект дозволить створити зброю масового ураження у домашніх умовах. Джерела Bloomberg, знайомі з презентацією вченого, сказали, що зустріч із Рокко Касагранде стривожила чиновників США.

Рокко Касагранде під час тестування чат-бота Claude на запрошення компанії Anthropic зібрав команду експертів у галузі мікробіології та вірусології, які ставили нейромережі різні питання.

Вони запитували, які патогени можуть завдати найбільшої шкоди, як купити матеріали, необхідні для їхнього створення в лабораторії, і як виростити мікроорганізми. У результаті ШІ запропонував способи використання патогенів у ракетах для заподіяння максимальної шкоди.

За словами джерел Bloomberg, президент США Джо Байден, віцепрезидент Камала Нарріс та радник з нацбезпеки "продемонстрували інтерес" до доповіді біохіміка. У жовтні 2023 року адміністрація президента США видала указ про посилення контролю над дослідженнями штучних геномів.

Поєднання таких інновацій, як синтетична біологія (з її допомогою вчені маніпулюють генами та геномом, створюючи нові біологічні системи) та штучний інтелект, може стати кошмаром для урядів, зазначає агентство. Оскільки генеративний ШІ продовжує вдосконалюватися, люди зможуть використати його для "створення найогидніших речей", вважає біолог та доцент Массачусетського технологічного інституту Кевін Есвелт, маючи на увазі віруси та токсини, яких наразі не існує.

У липні 174 вчених, у тому числі лауреат Нобелівської премії з хімії Френсіс Арнольд та один з піонерів сучасних методів редагування геномів Джордж Черч, підписали лист, в якому зобов'язалися використовувати ШІ для підтримки досліджень, які запобігатимуть сценаріям кінця світу. Переваги ШІ "набагато переважують потенційну шкоду", вважають вчені.

Нагадаємо, на весні 2023 року Ілон Маск і понад 1000 вчених закликали заборонити навчати штучний інтелект.