Хиймэл оюун ухаанд төрийн хяналт нэмэгдэж байна АНУ-ын засгийн газар

АНУ-д Хиймэл оюун ухаан (AI)-ын хөгжил асар хурдтай явагдаж байгаа тул засгийн газар түүний эрсдэлийг хянах, аюулгүй байдлыг хангах бодлогыг идэвхтэй хэрэгжүүлж эхэлсэн.

Юу болж байна вэ гэвэл, төр нь Google, Microsoft зэрэг томоохон технологийн компаниудтай хамтран шинэ AI загваруудыг олон нийтэд нэвтрүүлэхээс өмнө урьдчилан шалгах (pre-deployment testing) системийг нэвтрүүлж байна. Энэ шалгалтаар тухайн AI нь ямар эрсдэл үүсгэж болзошгүйг нарийвчлан үнэлдэг.

Гол анхаарч буй эрсдлүүд:

• Кибер аюулгүй байдал: AI-г ашиглан хакерууд илүү нарийн, хүчтэй халдлага хийх боломж нэмэгдэж байна. Жишээлбэл, автомат phishing, систем эвдэх код үүсгэх гэх мэт.

• Био аюул (biosecurity): Зарим өндөр түвшний AI нь химийн бодис, вирус зэрэг аюултай мэдээллийг буруугаар ашиглах эрсдэлтэй.

• Хуурамч мэдээлэл (disinformation): AI ашиглан хуурамч мэдээ, deepfake видео, зураг их хэмжээгээр тараах боломжтой.

• Хяналтгүй шийдвэр гаргалт: AI системүүд буруу эсвэл ялгаварласан шийдвэр гаргах магадлалтай.

Энэ хүрээнд засгийн газар дараах арга хэмжээнүүдийг авч байна:

1. AI загварын аюулгүй байдлын тест
   Компаниуд шинэ AI гаргахаасаа өмнө тусгай шалгалтанд оруулж, сул тал (vulnerability), буруу ашиглагдах боломжийг илрүүлнэ.

2. Мэдээлэл хуваалцах үүрэг
   Томоохон компаниуд AI-ийн эрсдэл, туршилтын үр дүнг төрийн байгууллагад мэдээлэх шаардлагатай болж байна.

3. Стандарт, дүрэм журам боловсруулах

   AI хөгжүүлэх, ашиглах тодорхой стандартуудыг бий болгож, бүх компани дагаж мөрдөх систем рүү шилжиж байна.

4. Үндэсний аюулгүй байдалтай холбох
   AI технологийг зөвхөн бизнес биш, улс орны аюулгүй байдлын түвшинд авч үзэж эхэлсэн.

Яагаад энэ чухал вэ гэвэл, AI нь зөв ашиглавал асар их боломж (эмнэлэг, боловсрол, эдийн засаг) авчирна. Харин хяналтгүй бол томоохон эрсдэл үүсгэж болзошгүй. Тиймээс АНУ зэрэг орнууд “эхлээд аюулгүй байдлыг хангах, дараа нь хөгжүүлэх” гэсэн зарчимд шилжиж байна.

(Эх сурвалж https://www.theguardian.com, https://seekingalpha.com)