Ілон Маск і понад 1000 вчених закликають заборонити навчати штучний інтелект [ Редагувати ]

Ілон Маск разом із понад 1000 експертів у галузі штучного інтелекту (ШІ) вимагають ввести мораторій на навчання потужних нейромереж, оскільки неконтрольований процес у цій галузі може становити загрозу для людства.

Про це йдеться у відкритому листі експертів у галузі ШІ, опублікованому 22 березня на сайті некомерційної організації Future of Life Institute ("Інститут майбутнього життя").

Ми закликаємо всі лабораторії ШІ негайно призупинити як мінімум на 6 місяців навчання систем ШІ, більш потужних, ніж GPT-4. Про цю перерву необхідно оголосити публічно, його виконання має бути перевіреним та охоплювати всіх ключових учасників галузі. Якщо така пауза не може бути зроблено в найкоротші терміни, то уряди мають втрутитися та запровадити мораторій.

Підписанти вважають, що лабораторії ШІ та незалежні експерти повинні використати цей "перепочинок" для спільної розробки та впровадження набору загальних протоколів безпеки. Це необхідно для проектування та розробки передових систем ШІ, які можна буде перевіряти та контролювати незалежними зовнішніми експертами.

Паралельно експерти пропонують зміну у політичній сфері, щоб створити нові регулюючі органи, які займаються питаннями ШІ, а також системи контролю на державному рівні, які могли б забезпечити безпеку нових систем.

Серед тих, хто підписав відкритий лист, крім Маска, є такі імениті фахівці, як один із засновників Apple Стів Возняк, провідні експерти в галузі штучного інтелекту Стівен Расселл та Ієшуа Бенджіо, а також ще понад 1100 найбільших фахівців у галузі інформаційних технологій та машинного навчання.

 Американська компанія OpenAI представила в середині березня нове покоління алгоритму обробки природної мови - мультимодальну модель GPT-4, яка, як стверджують її автори, набагато перевершує попередню версію GPT-3.5.

Так, GPT-4 має більшу "креативність" і більш надійна у використанні, вона вміє обробляти більш деталізовані запити. За внутрішніми оцінками фактичності, чи достовірності, вона перевищує GPT-3.5 на 40%.

Як приклад компанія наводить тест на адвоката – симулятор, за яким оцінювалися обидві нейромережі. Результати тесту GPT-4 виявилися майже у 10% кращих, а GPT-3.5 - у 10% найгірших.

У березні вчені Університету Торонто та біотехнологічної компанії Insilico Medicine повідомили, що використовували штучний інтелект (ШІ) для створення препарату, потенційно здатного подолати одну з форм раку печінки. Процес розробки лікування зайняв у штучного інтелекту лише 30 днів.