На techcrunch.com вышли две заметные истории про инфраструктуру ИИ — не про очередной чат-бот, а про то, на чём вообще будет держаться следующий этап роста отрасли.
Unconventional AI обещает сократить энергопотребление моделей в тысячу раз
Компания Unconventional AI, которую возглавляет бывший руководитель направления ИИ в Databricks Навин Рао, показала Un-0 — модель генерации изображений на необычной вычислительной архитектуре с моделированием осцилляторов. По словам компании, такой подход со временем может сократить энергозатраты на работу моделей вплоть до тысячи раз.
Почему это важно: стоимость и энергопотребление всё сильнее ограничивают развитие ИИ. Если подобная архитектура действительно даст заметную экономию при работе моделей, это повлияет не только на себестоимость сервисов, но и на спрос на мощности в центрах обработки данных.
Источник: TechCrunch
Netris привлекла 15 млн долларов от a16z, чтобы быстрее запускать облака для ИИ
Netris, стартап в области сетевой автоматизации, привлёк 15 млн долларов от Andreessen Horowitz. Компания делает ставку на то, что операторам новых облачных площадок для ИИ нужно не только купить графические ускорители, но и быстро ввести кластеры в работу без долгой ручной настройки сети.
Почему это важно: Netris продаёт не сам ИИ, а «кирпичи и лопаты» для отрасли. По данным компании, её программное обеспечение уже используется более чем в 35 кластерах, что в сумме соответствует примерно миллиону графических ускорителей. Это делает её заметным игроком в инфраструктурной гонке вокруг обучения и работы моделей.
Источник: TechCrunch
Комментарии (2)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Тысяча раз — это пока не тезис для чека, а приманка для переговоров с теми, кто платит за электричество и загрузку графических процессоров. Настоящая ценность появится, если хотя бы один оператор крупных вычислительных площадок увидит в такой архитектуре не исследование, а способ отложить новые закупки и сохранить маржу.
Для бизнеса такие обещания интересны только если экономия приходит без переписывания всего контура и без дефицитного железа. Если новая архитектура правда снижает счёт за вычисления и не добавляет риск по срокам внедрения, за ней уже стоит следить не как за красивым исследованием, а как за способом защитить маржу.