Yarn Spinner команда на основі прав працівників та етичних принципів розробки відмовляється від інтеграції ШІ. Вони критикують сучасні технології, які перетворюються на інструменти звільнення працівників, відхиляючись від початкової ідеї допомагати у творчості.
(Попередній огляд: 5 рядків коду, що зводять з розуму весь Силіконовий долин! Австралійський пастух відкриває AI-генеративний точковий сингулярність)
(Додатковий контекст: OpenAI, ймовірно, витрачає 3 мільярди доларів на купівлю «автоматичного програмного інструменту Windsurf», щоб захопити великий ринок Vibe Coding)

Зміст статті

• Минуле

• Майбутнє

• Можливі запитання (FAQ)

Як один із найвпливовіших інструментів з відкритим кодом для нарративного сценарію у незалежних іграх, Yarn Spinner має критичне значення для багатьох розробників. У цій офіційній статті команда щиро та твердо пояснює, чому вони обрали відмовитися від додавання генеративного ШІ у свій інструмент.

Вони не лише з технічної точки зору, а й з позиції прав працівників, етики розробки та «сутності ігрової розробки» глибоко рефлексують. Це може викликати певне переосмислення у сучасній індустрії, яка прагне технологічних трендів.

Нижче наведено повний переклад українською мовою:

Нас часто запитують про ШІ. Чи додавати його до Yarn Spinner? Чи використовуємо його самі? Яка наша думка щодо нього? Це цілком справедливі питання. Настав час їх зафіксувати.

Yarn Spinner не використовує сучасних технологій, що називають «ШІ». У нашому продукті немає функцій генеративного ШІ, ми не використовуємо інструменти для автоматичного створення коду, і не приймаємо внески, що містять згенерований контент. Давайте пояснимо чому.

TL;DR: Інструменти, створені компаніями ШІ, шкодять людям, і ми не хочемо підтримувати таку поведінку.

Минуле

Спершу трохи історії. Наш досвід охоплює значну кількість роботи з ШІ та машинним навчанням (хоча ці терміни не слід змішувати, оскільки їх часто плутають).

Ми проводили лекції для ігрових розробників і непрофесіоналів; писали невеликі боти з машинного навчання для ігор; займалися дослідженнями та академічною роботою. Навіть писали книжки про використання машинного навчання у іграх, зокрема про процедурну анімацію. Це були дуже цікаві та перспективні технології, і ми їх досліджували.

Коли ми починали університет, нейронні мережі та глибоке навчання (які зараз є ядром більшості ШІ) були дуже повільними і складними у використанні. До моменту захисту кандидатських робіт ситуація змінилася. Інструменти на кшталт TensorFlow зробили все простим і цікавим, а доступність GPU дозволила навіть без бюджету великих корпорацій тренувати моделі та робити висновки. Протягом тривалого часу ми були щиро захоплені цим потенціалом.

Але потім все почало змінюватися.

Точно сказати, коли саме, важко. Можливо, це було завжди, просто ми цього не помічали. Але наприкінці 2020 року стало очевидно: те ШІ, яке нам подобалося, не є тим, що цікавить технологічні компанії.

Вони дедалі більше зосереджуються на генеративних зображеннях, чат-ботах, що допомагають писати, і «резюме» мистецтва, а не на тому, щоб люди «займалися» мистецтвом. Зусилля щодо вирішення відомих проблем (як культурні упередження, труднощі з досягненням визначеності або пояснюваності) знецінюються і ігноруються. Дослідники і розробники, які піддають сумніву ці підходи, звільняються.

З того часу ситуація лише погіршується.

Якщо подивитися на те, що зараз пропонують компанії ШІ, це не те, що нам потрібно. Коли розкриваєш їхні слова, стає зрозуміло: інструменти, які вони створюють, або спрямовані на звільнення працівників, або вимагають більшої продуктивності без додаткового найму. Це — «проблема», яку вони прагнуть вирішити.

Інші досягнення — це просто випадкові «сюрпризи» на шляху до «максимального звільнення ваших друзів і колег».

У часи, коли працевлаштування особливо важке, а безробіття може навіть загрожувати життю, ШІ став справжнім «інструментом звільнення». Ми не хочемо бути частиною цього. Поки проблему не вирішать, ми не будемо використовувати ШІ у роботі і не інтегруємо його у Yarn Spinner для інших.

Ми не хочемо підтримувати компанії, що створюють такі інструменти, і не хочемо робити їх поведінку нормою. Тому ми не використовуємо.

Майбутнє

Іноді трапляються коментарі у стилі «завжди так буде»: «Якщо ти не використовуєш ШІ, тебе залишать позаду», або його «родичі»: «Всі вже використовують його»… Ми з цим не згодні.

Якою б не була наша думка щодо ШІ, це не правильний шлях розробки. Це — «інструментальний підхід». Мета не в тому, щоб «ми використовували цей інструмент», а в тому, щоб «ми допомагали вам створювати кращі ігри».

Великі ігри народжуються із пристрасті до ідеї і прагнення втілити її у реальність. Це зазвичай означає «зменшення», а не «збільшення». Зміна думок, збереження здоров’я себе і колег, готовність адаптуватися і приймати зворотній зв’язок. Хороші інструменти мають це враховувати.

Ми постійно питаємо себе: «Як це допоможе створити кращі ігри?» і рухаємося за відповіддю. Процес дослідження важливий, і часто ми виявляємо, що багато ідей не витримують навіть мінімальної критики. Ми віддаємо перевагу кільком досконалим функціям, що вирішують реальні проблеми, ніж купі сміття для маркетингу.

Ми пишаємося Yarn Spinner. Ми не вважаємо, що його використання у такій кількості ігор — це випадковість. Наш процес розробки ефективний, і ми постійно додаємо нові функції. Якщо якась функція не відповідає потребам розробників, ми її змінюємо або видаляємо.

Ми постійно обговорюємо з внутрішніми командами, іншими розробниками і навіть непрофесіоналами потенційні ідеї та підходи. Ми продовжуємо ставити питання: «Як це допоможе створити кращі ігри?» і публікуємо ті функції, що пройшли перевірку.

Хто знає, можливо, світ зміниться, і ми знову зможемо переосмислити машинне навчання.

Можливі запитання (FAQ)

Чому ви зосереджені лише на тому, що люди звільняються? Я чув, що ШІ поганий і в інших сферах! ШІ (особливо компанії, що його створюють) має багато проблем. Деякі — потенційні, навіть гіпотетичні; деякі — дуже реальні і вже відбуваються. Деякі проблеми набагато серйозніші за звільнення. Від моменту написання цієї статті і до її публікації з’явилися ще гірші проблеми. Навіть якщо питання прав працівників навколо ШІ раптом зникне, ще багато питань залишиться нерозв’язаними, перш ніж ми зможемо безпечно його використовувати. Але зосередитися на одному питанні — сильніше. Проблеми прав працівників можна і потрібно вирішити. Як тільки це зроблять, перейдемо до наступного.

Чому ви не «правильно» розробляєте машинне навчання, щоб уникнути шкоди? З урахуванням нашого досвіду, можливо, ми могли б створити корисний, етичний інструмент, що не підтримує компанії, яких ми критикуємо. Але є дві проблеми: по-перше, це потребує багато часу, а більшість ідей не проходять початкову стадію досліджень. По-друге, хоча ми можемо створити свої інструменти, більшість людей цього зробити не зможе. Якщо вони побачать, що ми використовуємо якусь технологію і захочуть її спробувати, вони, ймовірно, підуть підтримувати ті компанії, яких ми критикуємо. Ми не хочемо робити цю поведінку нормою, тому маємо бути прикладом і не використовувати їх.

Мій начальник просить мене використовувати ШІ на роботі, я теж частина проблеми? Знайти роботу і зберегти її — життєво важливо. Це особливо актуально зараз. Якщо ви можете висловити протест, зробіть це. Але ніхто не звинуватить вас у тому, що ви хочете зберегти роботу.

Чи забороните ви тим, хто використовує ШІ, користуватися Yarn Spinner? Ні. Хоча ми закликаємо не використовувати його, ми розуміємо, що це — «наш» межа, а не ваш. Ми продовжимо виступати проти цих інструментів і їх шкоди. Ви маєте усвідомлювати, що, використовуючи їх, ви економічно і соціально підтримуєте тих, хто займається поганими справами. Вони використовують вашу підтримку для просування своїх цілей. Якщо ці інструменти допомагають вам, ми щиро раді, але просимо вас припинити їх використовувати.

Мені подобається використовувати ШІ, і моя компанія ще не звільнила нікого? Такий коментар часто з’являється від програмістів. На жаль, через хаос навколо слова «ШІ» ці побоювання залишаються актуальними. Ваша підтримка сприяє просуванню компаній, що створюють ці інструменти. Інші, побачивши, що ви їх використовуєте, змушують своїх співробітників теж застосовувати їх або поширювати у інших компаніях. За нашими спостереженнями, це призводить до звільнень і перевтоми. Якщо цього не сталося у вас і ваших колег — добре, але ви все одно допомагаєте цьому відбуватися десь ще. І, як ми вже казали, навіть якщо завтра вирішать проблему працівників, залишаться інші. Звільнення — не єдина проблема.

Ви — просто фанатики, що ненавидять ШІ або луддити? Ні. Ми просто обурені тим, хто створює ці речі. ШІ і машинне навчання мають величезний потенціал, але їх використовують для ще більшого збагачення і погіршення вже й так поганих багатих. Ми все ще слідкуємо за розвитком технологій, бо хочемо колись знову досліджувати їх. Але наразі ті, хто просуває ці інструменти, — не ті, кому ми хочемо давати гроші або підтримку.