Google разработва специализиран чип за Gemini, който умножава ефективността

  • Google работи върху Frozen v2, чип, проектиран изключително за работа с модели Gemini с до десет пъти по-висока ефективност от сегашните TPU.
  • Чипът интегрира част от архитектурата Gemini директно в силиция, намалявайки движението на данни и консумацията на енергия.
  • Проектът, който може да заработи до 2028 г., е в отговор на недостига на изчислителен капацитет в Google Cloud и необходимостта от намаляване на разходите.
  • Компанията е избрала да запази възможността за надграждане на теглото на модела, като е поправила само базовата архитектура, за да удължи живота на хардуера.

Чипът на Google за изкуствен интелект Gemini

Google започна разработването на процесор за центрове за данни, специално проектиран за техния модел Gemini AI. Проектът, известен вътрешно като Frozen v2 , има за цел да интегрира част от архитектурата на модела директно в силиция, което драстично би намалило консумацията на енергия и би увеличило пропускателната способност на заявка.

Според доклади, публикувани от The Information и преразгледани от няколко медийни издания, инженерите на компанията изчисляват, че този чип може да бъде от шест до десет пъти по-ефективен от настоящите Tensor Processing Units (TPU) на Google по отношение на генерираните токени на ват мощност. Разгръщането на Frozen v2 не се очаква преди 2028 г., въпреки че проектът вече е причинил скок в цената на акциите на Alphabet.

история на изкуствения интелект
Свързана статия:
История на изкуствения интелект: от митовете до генеративната ера

Чип, направен по поръчка за Gemini

За разлика от TPU, които са проектирани да работят с голямо разнообразие от AI модели, Frozen v2 е замислен като високоспециализиран ускорител. Идеята е да се вградят определени структурни решения, специфични за Gemini, в хардуера , така че чипът да не се налага постоянно да се адаптира към различни натоварвания. Това елиминира междинните стъпки на обработка и намалява движението на данни между паметта и процесора, два от основните източници на консумация на енергия в днешните центрове за данни.

Google обаче изключи възможността да гравира пълните тегла на модела в силиция. Вместо това, компанията е избрала да запази възможността за надграждане на теглата и да поправи само базовата архитектура . По този начин Frozen v2 ще продължи да работи с бъдещи версии на Gemini, стига да споделят обща структура, като по този начин удължава живота на хардуера, без да губи специализацията, която го прави толкова ефективен.

структура за постигане на по-добри резултати с изкуствен интелект
Свързана статия:
Пълно ръководство за контекстно инженерство и оптимизация за изкуствен интелект

Ефективност, която се превръща в спестявания

Прогнозираното подобрение на ефективността не е незначително. Ако прогнозите се окажат верни, Frozen v2 би могъл да обработва от шест до десет пъти повече токени на единица мощност от най-новото поколение TPU. На практика това означава, че Google би могъл да обработва значително повече заявки със същата консумация на енергия или да намали оперативните разходи на услуги като Gemini, AI Overviews или инструментите с изкуствен интелект, интегрирани в Google Workspace.

Енергийната ефективност се е превърнала в приоритет за всички големи технологични компании. С нарастването на размера и сложността на програмните езици се увеличават и разходите за поддръжката им. Проектирането на чипове специално за всяка архитектура е една от стратегиите, които компании като Google, Amazon, Microsoft и Meta следват, за да ограничат този разход и същевременно да намалят зависимостта си от външни доставчици като Nvidia.

Натискът върху инфраструктурата на Google Cloud

Разработката на Frozen v2 също така решава проблем с вътрешния капацитет. Докладите сочат, че Google Cloud дори е трябвало да откаже договори с външни клиенти поради липса на налични изчислителни ресурси . Вътрешното търсене на собствените продукти на Google, комбинирано с външното търсене, създаде пречка, която новият чип има за цел да облекчи, без да е необходимо пропорционално увеличаване на броя на сървърите.

С по-голяма ефективност, Google би могла да освободи използваем капацитет в своите центрове за данни и да обработва повече заявки със същия хардуер. Това е от полза не само за компанията, но и за бизнеса, който използва Google Cloud за изпълнение на собствени AI задачи, което би могло да доведе до подобрения в наличността и потенциално по-ниски разходи в средносрочен план.

Стратегически ангажимент с оглед на 2028 г.

Frozen v2 няма да замени семейството TPU, но ще съществува едновременно с него като по-специализирана линия чипове. Google планира много по-малка първоначална производствена серия от сегашните си TPU и разглежда този проект като тест за оценка на осъществимостта на преминаването към чипове, тясно свързани с конкретни модели . Ако резултатите са положителни, това би могло да отбележи повратна точка в начина, по който се проектира хардуерът за изкуствен интелект.

Пазарната реакция беше бърза. Акциите на Alphabet се повишиха между 1,15% и 3% след публикуването на новината, което отразява интереса на инвеститорите към това начинание в областта на персонализирания хардуер. Компанията обаче остана предпазлива, отбелязвайки, че не всички изследователски проекти в крайна сметка водят до търговски продукти.

Конкурентната среда също играе важна роля. Докато Nvidia продължава да доминира на пазара на ускорители с изкуствен интелект със своите графични процесори, други големи технологични компании като Amazon, Microsoft и Meta проектират свои собствени чипове от години. Google, с Frozen v2, засилва стратегията си за вертикална интеграция: като контролира както дизайна, така и хардуера, който го управлява, може да оптимизира и двата елемента заедно и да получи предимства в ефективността, с които конкурентите му все още не могат да се сравнят.

Frozen v2 представлява още една стъпка в надпреварата за изкуствен интелект, където битката вече не се води единствено от страна на софтуера, но и от страна на инфраструктурата, която го прави възможен. Ако чипът достигне производство през 2028 г. и оправдае очакванията, Google би могла да затвърди позицията си спрямо конкуренти като OpenAI, Microsoft и Meta, като същевременно предлага на своите облачни клиенти по-ефективна и рентабилна алтернатива за работа с модели на естествен език.


Добавяне като предпочитан източник в Google