Працівники провідних компаній у сфері штучного інтелекту почали залишати свої посади через вигорання та побоювання щодо наслідків стрімкого розвитку технології. Частина дослідників вважає, що питанням безпеки приділяють недостатньо уваги на тлі перегонів за створення потужніших моделей.
Про це повідомляє видання Financial Times із посиланням на працівників галузі та джерела, обізнані із ситуацією.
Працівники стикаються з вигоранням
За останні два роки понад десять старших дослідників залишили Anthropic, OpenAI та Google DeepMind. Серед причин вони називали незгоду з підходами керівництва до безпеки та високі темпи розвитку ШІ.
Проблеми виникли і в Британському інституті безпеки штучного інтелекту AISI. За даними FT, кілька його співробітників звільнилися через стрес, а частина звернулася по психологічну допомогу.
Джерела видання пов’язують ситуацію з жорсткими графіками тестування ще не випущених моделей, швидким впровадженням технології та постійним розширенням її можливостей.
Один зі співробітників Google DeepMind розповів FT, що робота над безпекою ШІ створює високий ризик вигорання. Додаткове навантаження спричиняє невизначеність щодо того, як технологію використовуватимуть у майбутньому, зокрема у військовій сфері.
Що непокоїть дослідників
Окреме занепокоєння викликає те, наскільки швидко нові моделі опановують складні завдання. Колишній співробітник AISI зазначив, що особливо уважно за розвитком технології стежать фахівці з кібербезпеки та біохімії.
За його словами, нові системи вже здатні знаходити раніше невідомі вразливості у програмному коді та виконувати дедалі складніші завдання у сфері біології.
Частина дослідників також вважає, що прагнення компаній якомога швидше випускати нові моделі може вступати в суперечність із заходами безпеки.
Хто залишив роботу у сфері ШІ
Серед тих, хто пішов із провідних ШІ-компаній, FT називає Джейкоба Коксона, який раніше працював в Anthropic та OpenAI. Після звільнення він публічно розкритикував підходи компаній до розвитку технології.
У лютому з Anthropic пішов дослідник безпеки ШІ Мрінанк Шарма. Він вирішив відійти від роботи над штучним інтелектом та зайнятися поезією.
Колишній співробітник OpenAI та xAI Хіеу Фам також залишив роботу та повернувся до В’єтнаму. Своє рішення він пояснював вигоранням через інтенсивну роботу над створенням дедалі потужніших систем штучного інтелекту.
Раніше видання Invest News повідомляло, що акції виробників мікросхем різко подешевшали через сумніви інвесторів у подальших масштабних витратах на розвиток ШІ.
