ВПЛИВ ПРОМПТІВ НА СТРАТЕГІЧНУ ПОВЕДІНКУ LLM У КЛАСИЧНИХ ІГРАХ

Анотація

У статті розглядається питання, чи можна лише зміною формулювання системного промпту (фреймінгом) керувати стратегічними рішеннями LLM у класичних іграх при незмінній матриці виграшів. Проблема має як наукове, так і практичне значення: якщо поведінку LLM можна суттєво змінювати редагуванням промпту без зміни правил гри, виникає ризик маніпуляції та потенційного шахрайства, коли одна сторона може налаштувати промпти під вигідну собі поведінку. Метою дослідження є емпірична перевірка цієї гіпотези на чотирьох канонічних іграх - дилемі в’язня, полюванні на оленя, грі суспільного блага та грі ультиматуму - при чотирьох типах промптів: контролюючий (раціональна максимізація виграшу), кооперативний, конкурентний та етичний.

Експерименти передбачали проведення матчів у форматі LLM проти LLM з однаковими типами промптів для обох гравців; для кожної комбінації гри та типу проводилася серія матчів з обмеженою кількістю раундів. Результати показують чітку залежність поведінки від фреймінгу: при кооперативному формулюванні спостерігається повна кооперація в дилемі в’язня та полюванні на оленя, високий середній внесок у грі суспільного блага та найвищі пропозиції в ультиматумі. При контролюючому та конкурентному типах промптів кооперація в двох перших іграх мінімальна або нульова, внесок у суспільне благо практично дорівнює нулю, пропозиції в ультиматумі найнижчі. Етичний фреймінг дає проміжні результати.

Отримані дані підтверджують, що формулювання промпту суттєво пов’язане зі зміною стратегічної поведінки в усіх чотирьох іграх при незмінних виграшах. Це має безпосереднє відношення до виявлення ризиків маніпуляції при впровадженні LLM у переговори, торги та багатоагентні системи.