Генеральный директор Microsoft Сатья Наделла говорит, что максимизация токенов с помощью искусственного интеллекта обходится дорого: «Я тоже занимаюсь токенмаксингом, это вызывает привыкание»

Microsoft активно интегрирует генеративный искусственный интеллект в свои технологические процессы после многомиллиардного партнерства с OpenAI. Генеральный директор Microsoft Сатья Наделла сообщил, что до 30% кода компании создается с использованием этой технологии.

В недавнем интервью на подкасте The New York Times "Hard Fork" один из ведущих, Кейси Ньютон, спросил Сатью Наделлу о масштабах "токенмаксинга" в Microsoft. Токенмаксинг определяется как феномен на рабочем месте, при котором производительность измеряется количеством обработанных токенов, особенно в задачах, связанных с искусственным интеллектом.

В ответ на вопрос Наделла указал, что в компании активно используется токенмаксинг.

Эти события происходят на фоне объявления Microsoft о том, что все корпоративные лицензии Claude Code будут аннулированы с 30 июня, так как компания ускоряет переход на GitHub Copilot CLI. Некоторые отчеты предполагают, что эти изменения могут быть обусловлены финансовыми причинами, учитывая, что финансовый год Microsoft заканчивается 30 июня. Компания, возможно, стимулирует сотрудников использовать собственные решения для снижения операционных расходов.

Несмотря на активное внедрение ИИ в рабочие процессы сотрудников, затраты быстро растут. Известно, что одна загадочная корпорация потратила 500 миллионов долларов за один месяц на Claude AI, забыв установить лимиты использования лицензий Claude для сотрудников.

Интересно, что Сатья Наделла не заявил категорически об ограничении использования ИИ сотрудниками. Вместо этого он подчеркнул, что сотрудникам рекомендуется использовать подходящую модель для каждой конкретной задачи.

Наделла говорил, что "не следует использовать передовые модели для задач, не требующих передовых решений". Он указал на режим Auto Mode в Microsoft Copilot как на идеальный инструмент, который автоматически выбирает наиболее подходящую модель для конкретной задачи. "Давайте сопоставлять эти вещи таким образом, чтобы получать результаты и экономию; это не должна быть гонка за выполнением задач, которые просто не приносят ценности".

Сообщается, что Microsoft также ограничивает использование Claude Fable 5 из-за новых требований Anthropic к хранению данных, ссылаясь на опасения по поводу защиты данных.

Евгений (MSReview): Токенмаксинг — новый челлендж в корпоративном использовании ИИ, где важно не только использовать передовые модели, но и делать это экономически осмысленно, подбирая оптимальный инструмент для каждой задачи, чтобы избежать неоправданных затрат и обеспечить конфиденциальность данных.