Таны Mac дээрх AI ирээдүйд интернетгүй үед ч том AI ажиллуулах чиглэл рүү явж байна гэсэн үг.
Apple-ийн шинэ Mac 1 их наяд параметртэй AI ажиллуулжээ.
Энэ технологийн мэдээ бол сүүлийн үеийн хамгийн сонирхолтой нь болов уу.
Apple-ийн шинэ Mac Studio-нуудыг нийлүүлэн ашиглаад 1 trillion (1 их наяд) параметртэй AI загварыг нэг ханын цахилгааны залгуураас ажиллуулж үзүүлсэн байна. Apple-ийн гол санаа нь AI-г заавал cloud руу илгээхгүйгээр өөрийн компьютер дээр ажиллуулах явдал. Таны Mac дээрх AI ирээдүйд интернетгүй үед ч том AI ажиллуулах чиглэл рүү явж байна гэсэн үг.
Apple яагаад 1 их наяд параметртэй AI-г Mac дээр ажиллуулсан бэ?
2026 оны 9-р сарын 22-нд худалдаанд гарсан шинэ Mac Studio M5 Max / M5 Ultra-ийн гол онцлог нь зөвхөн хурдан компьютер биш, том AI загварыг cloud руу явуулахгүйгээр өөрийн компьютер дээр ажиллуулах боломж уруу түлхэж байгаа явдал юм. Apple-ийн M5 Ultra нь 512GB хүртэл unified memory, 1.2 TB/s memory bandwidth-тай.
Apple бүр 4 ширхэг Mac Studio-г Thunderbolt 5/RDMA-аар холбож, нэг систем шиг ашиглан 1 их наяд параметртэй AI загварыг нэг ханын цахилгааны залгуураас ажиллуулж байгааг үзүүлсэн гэж Reuters мэдээлсэн.
Гэхдээ “1 их наяд параметр” гэж яг юу гэсэн үг вэ?
AI загварын parameter гэдэг нь маш энгийнээр хэлбэл AI-ийн сурч авсан асар олон тооны “тоон тохиргоо” юм.
Жишээ нь:
7 тэрбум параметр → жижиг/дунд хэмжээний AI
70 тэрбум → маш том AI
400 тэрбум → асар том AI
1,000 тэрбум = 1 их наяд параметр → маш том загвар
Параметр их байх тусам заавал бүх зүйл дээр илүү сайн гэсэн үг биш. Гэхдээ ийм хэмжээний загварыг ажиллуулахад маш их memory болон memory bandwidth шаардлагатай.
Apple-ийн арга нь юугаараа өөр вэ?
Ердийн ChatGPT маягийн үйлчилгээний үед таны компьютер → интернет → Cloud дата төв → AI → хариу → таны компьютер
Өөрөөр хэлбэл AI ажиллуулах үндсэн тооцооллыг таны Mac биш, дата төвийн олон GPU хийдэг.
Таны Mac → AI загвар → хариу Интернет шаардлагагүй байж болно.
Apple яг энэ чиглэл үрүү шилжижи байна. Шинэ Mac Studio нь асар том unified memory ашиглан том LLM-үүдийг төхөөрөмж дээр ажиллуулахад зориулагдсан бөгөөд Apple-ийн Core AI болон MLX framework-үүд үүнийг дэмждэг.
(Эх сурвалж https://www.reuters.com, https://www.apple.com)
