Раціональність чи алгоритм: як MIT вчитиме осмислювати AI і межі агентності

Зміст статті

Пізній вечір у кампусі MIT – і в одній аудиторії шум не вщухає: на дошці – схеми прийняття рішень агентів, поряд – витяги з праць про раціональність. Тут не розділяють людей на “технарів” і “ гуманітаріїв” – на курсі AI and Rationality вони сидять плече до плеча. Студенти розбирають, як системи вчаться з досвіду, а викладачі обережно повертають дискусію до питання: що ми взагалі називаємо розумною дією. За межами аудиторії штучний інтелект стрімко змінює індустрії, тож у стінах університету шукають не рецепти, а інструменти мислення. Саме тому MIT запускає цей курс уперше восени 2025 – щоб навчити майбутніх інженерів і дослідників ставити правильні запитання.

Аудиторія, де сперечаються алгоритми й філософи

Новий курс AI and Rationality створено в межах перехресної ініціативи Common Ground від MIT Schwarzman College of Computing, що об’єднує кафедри для спільного викладання на перетині дисциплін. Клас ведуть Leslie Kaelbling, Panasonic Professor of Computer Science and Engineering, та Brian Hedden з Департаменту лінгвістики та філософії, який має спільну позицію з EECS. За даними курсу, на перший набір зареєструвалося понад дві дюжини студентів, і це один із двох курсів Common Ground з філософським підґрунтям – інший має назву Ethics of Computing. Якщо “етика обчислень” досліджує суспільні наслідки технологій, то AI and Rationality занурюється в суперечливе визначення раціональності та його наслідки для AI. Тут розглядають природу раціональної агентності, поняття автономного інтелектуального агента та питання про те, як – і чи варто – приписувати системам “переконання” і “бажання”.

Курс не обіцяє готових відповідей – навпаки, він вчить перевіряти власні припущення. Викладачі підкреслюють, що AI надто широкий і кожен кейс піднімає нові дилеми, тож студенти навчаються відштовхуватись від принципів, а не шаблонів. У центрі уваги – те, як інженерні моделі стикаються з людськими обмеженнями сприйняття, і як наші уявлення про “раціональне” впливають на дизайн систем. Так формується спільна мова між філософією та інформатикою, де математичні формалізації зустрічають багатозначність людських рішень. Кожна дискусія тут – це вправляння в точності: окреслити припущення, визнати обмеження, побачити альтернативу. Саме через таку оптику студентам пропонують переосмислити і машинне навчання та робототехніку, і класичні моделі раціонального вибору.

Курс, що навчає сумніватися

За задумом авторів, AI and Rationality – це не набір доктрин, а спосіб мислення, який допоможе в науці, індустрії та державному секторі. Хоча від студентів із технічним бекґраундом очікують формальної точності, їх постійно повертають до контексту й наслідків: як зміниться відповідь, якщо ціна помилки несиметрична, або якщо дані неповні. Важлива рамка курсу – усвідомлення, що “раціональність” не універсальна величина, а припущення, які треба артикулювати в кожній конкретній задачі. Саме так побудовано читання і семінари: від різних концепцій раціонального агента до практичних рішень у моделюванні. Викладачі прямо кажуть: мета – дати інструменти, а не остаточні формули. А ще – виробити звичку ставити уточнювальні запитання там, де алгоритм спокушає простими відповідями.

“We’re not giving them a body of doctrine to learn and memorize and then apply. We’re equipping them with tools to think about things in a critical way as they go out into their chosen careers, whether they’re in research or industry or government.”

Це підкреслює співавтор курсу Brian Hedden: критичне мислення тут важливіше за готові рецепти. У практичних обговореннях студенти тренуються формулювати припущення, перевіряти, що саме вважається метою агента, і як визначається корисність у реальному застосуванні. Такі вправи змушують переглянути навіть звичні формули – зокрема, коли раціональність конфліктує з людською інтуїцією або обмеженнями виконання в реальному світі. У фокусі – прозорість аргументації: чому модель обрана саме так, які альтернативи відкинуто, і що зміниться за інших умов. Це не про сумнів заради сумніву, а про інтелектуальну чесність у складних рішеннях.

Людський вимір: студенти між логікою і досвідом

В аудиторії поруч опиняються інженери, гуманітарії та когнітивні науковці – і кожен приносить своє розуміння “раціонального”. Студентка EECS Amanda Paredes Rioboo говорить, що курс змусив порівняти “золотий стандарт” формальної логіки з фактом: люди діють непослідовно, а отже моделі мають це враховувати. Для неї це третій курс Common Ground – і саме міждисциплінарність дає баланс між теорією і застосуванням. Докторант кафедри мозку та когнітивних наук Junior Okoroafor акцентує: залежно від дисципліни “раціональний агент” означає різне, і тільки формалізація робить ці відмінності явними. Обох приваблює спільне викладання: коли філософський аналіз і технічна експертиза взаємно коригують одна одну, зникає спокуса спрощувати. Так формується звичка пояснювати свої рішення не лише формулами, а й аргументами – і чути аргументи інших.

“We’re kind of taught that math and logic are this golden standard or truth. This class showed us a variety of examples that humans act inconsistently with these mathematical and logical frameworks.”

Рефлексія Paredes Rioboo про розрив між формальним і людським пояснює, чому курс навмисно стикає різні школи думки. У цих зіткненнях народжується головне – вміння будувати моделі, які не ігнорують реальність, а враховують її змінність і обмеження. А для когнітивних науковців це ще й спосіб перевірити, як формальні схеми корелюють із тим, що ми знаємо про людське мислення. У відповідь інженери отримують точніші критерії успіху: не тільки математично, а й практично обґрунтовані. Саме це робить дискусії живими й продуктивними – і показує, як філософія допомагає проектувати системи, що краще працюють у світі людей.

Читайте також наші статті:

• Як білкові «шатли» Gensaic прагнуть доставляти РНК у мозок, м’язи й жир – і що тут робить Novo Nordisk?
• Хто керуватиме відновленням: у Франції представили Раду директорів Українського фонду культурної спадщини

Дві мови однієї проблеми

AI and Rationality стоїть на давньому перехресті інформатики та філософії. Викладачка Leslie Kaelbling, яка має філософську освіту, нагадує, що ранній AI зростав із філософських спроб формалізувати поняття знання, віри та раціонального вибору. Сьогодні цей діалог знову критично важливий: ми моделюємо системи, що ухвалюють рішення в умовах невизначеності, – а це давно оброблювані теми у філософії науки та епістемології. Коли ж ідеться про “переконання” або “бажання” машин, курс пропонує дивитися на це як на зручні для пояснення конструкції, а не буквальні властивості. Така перспектива захищає від антропоморфізму й допомагає залишатися точними в термінах. У свою чергу, інформатика дає філософам перевіркові моделі – те, чого так бракувало чистій теорії. Спільна мова народжується там, де припущення виписані чисто, а метрики – прозорі.

“You’d imagine computer science and philosophy are pretty far apart, but they’ve always intersected. The technical parts of philosophy really overlap with AI, especially early AI.”

Цей погляд пояснює, чому саме MIT робить ставку на міждисциплінарність: вона не додає зайвої складності, а повертає AI до його інтелектуальних витоків. Там, де з’являються моделі агентів, неминуче постають питання про обґрунтування віри, оновлення переконань та критерії раціонального вибору. Курс систематизує ці теми так, щоб інженер не губився в абстракції, а філософ – не втрачав зв’язок із практикою. Результат – кращі пояснення, обережніші висновки і системи, які роблять менш неочевидні помилки. А ще – спільнота, що вміє чути аргументи, відмінні від власних.

Навички на майбутнє: мислити понад тренди

У світі, де технології змінюються швидше за навчальні плани, інструктори відверто визнають: передбачити, що студентам знадобиться через п’ять років, неможливо. Тому ставка робиться на “звички розуму” – інструменти, які масштабується до нових викликів і даних. Курс щоразу змушує поставити запитання: які цілі ми закладаємо системі, як визначаємо корисність і що станеться, якщо наші припущення помилкові. Така дисципліна мислення знижує ризик неконтрольованих відхилень у реальних застосуваннях, від медицини до автономних систем. А ще – вчить комунікувати обмеження моделі так само чітко, як і її переваги. У поєднанні з технічною підготовкою це формує фахівців, здатних робити якісні рішення там, де простих відповідей не існує.

Що саме розбиратимуть на курсі

Програма охоплює кілька опорних тем: природу раціональної агентності і те, як агенти оновлюють вірування на основі досвіду; критерії оптимальності рішень у неоднозначних середовищах; межі приписування системам “переконань” та “бажань” як інструментам пояснення; відмінності між повністю автономними агентами та системами з людиною в контурі; а також перетин з етикою через курс Ethics of Computing. Такий каркас дає і філософські, і технічні опори – від формалізації цілей до обґрунтування метрик оцінювання. У підсумку студенти виходять із чіткішою мовою опису і кращими навичками перевірки припущень та моделей.

Попереду – питання, що формують рішення

MIT робить ставку не на готові рецепти, а на здатність коректно ставити питання – і саме це може виявитися найціннішим у добу стрімкого AI. Коли курси на кшталт AI and Rationality стають частиною навчання, в індустрію приходять люди, що вміють одночасно тримати в голові формулу і контекст. Це допомагає мінімізувати розрив між лабораторією та реальністю – і робить системи не лише точними, а й обґрунтованими. У найближчі роки це може вплинути на дизайн автономних агентів, які взаємодіють із людьми, і на способи пояснюваності рішень. А головне – на культуру обговорення, де “чому ми вважаємо це раціональним?” стає робочим питанням, а не риторикою.

• Формування навичок критичного аналізу цілей, метрик і припущень у AI.
• Краще узгодження технічних моделей із людськими обмеженнями та контекстом.
• Зміцнення міждисциплінарної співпраці між інформатикою та філософією в MIT.

Вузол питань, з яким вийдуть у світ

Коли перша група студентів – понад дві дюжини різних спеціальностей – пройде цей курс, вони винесуть із собою не “правильні відповіді”, а відточені запитання і перевірені інтелектуальні інструменти. У добу, де “раціональність” машин здається очевидною, MIT нагадує: раціональність – це завжди про рамку, цілі та обмеження. Чи означає це, що алгоритми можуть бути по-справжньому “раціональними”? Курс не обіцяє вирішити парадокс – він вчить із ним працювати. І це, схоже, саме та компетенція, якої потребує штучний інтелект, що швидко дорослішає.