Штучний інтелект стрімко стає потужнішим, але йому все ще бракує ключового елемента людського інтелекту: самосвідомості. Сучасні генеративні системи штучного інтелекту, такі як ChatGPT, працюють, не розуміючи свого власного рівня впевненості та не розпізнаючи, коли вони не впевнені. Цей недолік може мати серйозні наслідки в таких критичних сферах, як медицина, фінанси та автономні транспортні засоби. Розробляється нова математична структура, щоб усунути це обмеження, дозволяючи штучному інтелекту контролювати та регулювати власні «когнітивні» процеси – по суті, надаючи йому внутрішній монолог.
Сутність метапізнання
Здатність думати про мислення, відома як метапізнання, є фундаментальною для людського інтелекту. Це передбачає розпізнавання, коли процес мислення не працює, і відповідне коригування. Донедавна системи штучного інтелекту майже не знали про цю здатність. Зараз дослідники працюють над тим, щоб змінити це, розробляючи штучний інтелект, який може оцінювати власну впевненість, виявляти плутанину та вирішувати, коли зосередитися на проблемі.
Чому машинам потрібна самосвідомість
Сучасний штучний інтелект генерує відповіді, не знаючи, наскільки вони надійні. У критичних програмах ця невизначеність може призвести до небезпечних наслідків. Наприклад, медичний штучний інтелект може з упевненістю запропонувати діагноз, не розпізнаючи суперечливих симптомів і не розпізнаючи, коли потрібна допомога людини.
Розвиток метапізнання вимагає як самоусвідомлення (моніторинг міркувань), так і саморегуляції (моніторинг відповідей). Дослідники створили метакогнітивний вектор стану, який кількісно визначає внутрішній когнітивний стан ШІ за п’ятьма вимірами:
- Емоційна обізнаність : щоб запобігти шкідливим результатам шляхом моніторингу емоційно насиченого вмісту.
- Оцінка правильності : вимірює впевненість ШІ у своїх відповідях.
- Відповідний досвід : перевіряє, чи схожа ситуація ШІ на те, з чим він стикався раніше.
- Виявлення конфлікту : Визначає суперечливу інформацію, яка потребує вирішення.
- Важливість проблеми : оцінює ставки та терміновість визначення пріоритетів ресурсів.
Організація процесів мислення ШІ
Подумайте про ансамбль штучного інтелекту як про оркестр. Вектор метакогнітивного стану діє як провідник, контролюючи, чи знаходяться «музиканти» ШІ (окремі великі мовні моделі) у гармонії. Коли ШІ стикається з простим завданням, він ефективно працює в режимі «Система 1» (швидка, інтуїтивно зрозуміла обробка). Але коли виникає складність, провідник наказує ШІ перейти в режим «Система 2» (повільне, обдумане міркування), призначаючи ролі критика або експерта різним компонентам ШІ.
Вплив і майбутнє метакогнітивного ШІ
Наслідки виходять далеко за рамки підвищення точності. У сфері охорони здоров’я метакогнітивний ШІ може позначати невизначені діагнози для перевірки людиною. В освіті він може адаптувати стратегії навчання на основі плутанини учнів. Під час модерування вмісту він може виявити тонкі випадки, які потребують людського судження.
Важливо те, що ця структура підвищує прозорість, дозволяючи ШІ пояснювати свої рівні впевненості та невизначеності. Ця інтерпретація є важливою для створення довіри до критично важливих програм. Поточна робота не створює свідомість, а служить першим кроком до більш складного штучного метапізнання. Майбутні дослідження будуть зосереджені на тестуванні цієї основи, вимірюванні покращення ефективності та вивченні мета-обґрунтування (причин обґрунтування) у таких сферах, як медична діагностика та юридичне обґрунтування.
Зрештою, мета полягає в тому, щоб створити системи штучного інтелекту, які розуміють власні обмеження та сильні сторони, знають, коли бути впевненими, обережними чи покладатися на досвід людини.
