Технологийн компаниуд AI-д зориулсан дата төв (AI Data Center) барьж, том экосистем байгуулж байгаа нь өнөөгийн IT салбарын хамгийн том чиг хандлага юм.

AI дата төв гэж юу вэ?

AI дата төв гэдэг нь хиймэл оюуны алгоритм, машин сургалт, том хэлний модел (LLM) ажиллуулахад зориулсан өндөр хүчин чадалтай серверүүдийн цогц систем юм.

Энгийн дата төвөөс ялгаатай нь:

• Маш их тооцоолол хийх чадалтай

• GPU / AI чип ихтэй

• Өндөр хурдны сүлжээтэй

• Маш их дата хадгалах багтаамжтай

AI дата төвүүд нь маш хурдан дата боловсруулалт, машин сургалтын модель сургах, AI inference хийх зорилготой байдаг.

AI дата төвийн үндсэн технологи

• AI чип ба GPU кластер

• AI-ийн гол “тархи” нь GPU болон AI accelerator чипүүд юм.

Жишээ:

• NVIDIA – GPU (AI сургалтын стандарт болсон)

• Google – TPU чип

• Amazon – Trainium чип

• Microsoft – Maia AI чип

AI дата төвүүдэд:

10,000 – 100,000 GPU холбогдсон байдаг

Тэд хамтдаа AI суперкомпьютер шиг ажиллана.

Өндөр хурдны сүлжээ

AI модел сургахдаа серверүүд хоорондоо маш хурдан мэдээлэл солилцох шаардлагатай.

(Эх сурвалж https://www.networkworld.com)