Anthropic и OpenAI остается надеяться, что примеру AT&T не последует больше компаний.
AT&T планирует в ближайшие годы удерживать расходы сотрудников на модели Anthropic и OpenAI на текущем уровне, одновременно наращивая использование open-source моделей, включая Nemotron от Nvidia, сообщил вице-президент компании Марк Остин.
За последний год доля open-source выросла до 40% всех AI-запросов сотрудников. В ближайшие годы AT&T рассчитывает довести ее до 60–70%.
По словам Остина, open-source модели сейчас «не хуже, а иногда и лучше» старых моделей Anthropic, OpenAI и других разработчиков. При этом их возможности обычно отстают от frontier-моделей примерно на 6–10 месяцев, но разрыв сокращается.
Дополнительную экономию дают model routers, автоматически выбирающие более дешевую модель в зависимости от сложности задачи. После внедрения LiteLLM стоимость части сложных AI-задач, включая написание кода, снизилась до 56%, при падении качества всего на 2%.
Кроме Nemotron, AT&T использует Llama от Meta и Gemma от Google. Часть моделей запускается на чипах Nvidia и AMD в собственных ЦОД, что часто дешевле аренды вычислений у облачных провайдеров.
Компания также изучает модели DeepSeek и Moonshot, но пока не использует их в работе из-за оценки потенциальных рисков.