Искусственный интеллект без границ: OpenAI выпускает модели, работающие прямо на вашем компьютере

OpenAI представила две новые генеративные AI-модели: gpt-oss-120b и gpt-oss-20b. Это не GPT-5, которую все так ждут, но важный шаг к тому, чтобы сделать искусственный интеллект более доступным.

Главная особенность этих моделей в том, что они имеют открытый вес. Это значит, что параметры, использованные для их обучения, находятся в открытом доступе. OpenAI не выпускала ничего подобного со времен GPT-2 в 2019 году.

"Мы рады сделать эту модель, результат миллиардов долларов исследований, доступной миру, чтобы передать AI в руки как можно большего числа людей", - заявил генеральный директор OpenAI Сэм Альтман.

Эти модели не заменят будущие разработки OpenAI, такие как GPT-5. Они ограничены работой с текстом, но могут просматривать веб-страницы и взаимодействовать с облачными сервисами для решения различных задач.

Новинки используют так называемое цепное рассуждение. Они разбивают сложные задачи на более простые, что позволяет получать более точные результаты. Это похоже на то, как человек подходит к решению проблем.

Скачать модели можно через Hugging Face.

OpenAI сотрудничает с различными платформами разработки, включая Azure, Hugging Face, vLLM, Ollama, AWS и Fireworks, чтобы интегрировать свои новые модели.

Кроме того, Ollama выпустила новое приложение, которое упрощает использование локальных LLM на ПК с Windows 11. Больше не нужно возиться с командной строкой!

Искусственный интеллект без облака: это реально?

Особое внимание стоит уделить gpt-oss-20b, так как она может работать на компьютерах с процессорами Snapdragon. Это настоящий прорыв для таких устройств, которые часто сталкиваются с проблемами совместимости.

Теперь компьютеры на базе Snapdragon поддерживаются с самого начала.

Qualcomm подчеркивает важность этого события:

"OpenAI открыла исходный код своей первой модели рассуждений, gpt-oss-20b, модели рассуждений типа chain-of-thought, которая работает непосредственно на устройствах с флагманскими процессорами Snapdragon. Сложные модели OpenAI ранее были ограничены облаком. Сегодня компания впервые делает свою модель доступной для логического вывода на устройстве."

Gpt-oss-20b, которая показывает результаты, сравнимые с o3-mini в определенных тестах, может работать даже на устройствах с 16 ГБ оперативной памяти.

Это значит, что модель может работать на многих современных компьютерах.

Этот день стал важным для Qualcomm, но NVIDIA тоже не осталась в стороне. Обе gpt-oss-120b и gpt-oss-20b были обучены на NVIDIA H100 GPU. Компания поделилась новостями в блоге.

Более мощной модели потребовалось 2,1 миллиона часов обучения на этих GPU. Менее мощная gpt-oss-20b потребовала примерно в десять раз меньше времени.

Видеокарты NVIDIA GeForce RTX также могут запускать gpt-oss-20b локально. Для этого потребуется система с не менее 16 ГБ VRAM (видеопамяти).

Для запуска более мощной gpt-oss-120b понадобится NVIDIA RTX PRO GPU.

NVIDIA – это компания стоимостью 4 триллиона долларов (примерно 360 квадриллионов рублей), во многом благодаря своему лидерству в сфере искусственного интеллекта.

Мнение MSReview: Выпуск моделей gpt-oss-120b и gpt-oss-20b – важный шаг в развитии локального AI. Возможность запуска таких моделей на обычных потребительских устройствах, таких как ПК с процессорами Snapdragon и видеокартами NVIDIA RTX, открывает новые горизонты для разработчиков и пользователей, делая AI более доступным и персонализированным.