Өндөр түвшний хиймэл оюун ухааны компанийн толгойлогчид өнгөрсөн өдрүүдэд нэгдэж, гарцаагүй хурдтай өргөжиж буй AI хөгжүүлэлт нь сүйрэлд хүргэж болзоштой гэж анхааруулсны дараа Вашингтонын засгийн газраас хяналт тавих хууль эрх зүйн арга хэмжээ авах хөдөлгөөн түр зуур идэвхжиж буй мэт харагдсан юм.
Гэвч холбогдолтой, нөлөө бүхий нэг техникийн салбарын хүн Засгийн газар үйл ажиллагаа явуулах олон саналд эсрэг байр суурь илэрхийлж эхэлсэн leading voice болж байна — түүний подкастаар, хэвлэл мэдээлэлд гарч буй appearance-ууд, ба Ерөнхийлөгч Дональд Трампад өгсөн хувийн зөвлөгөөнд ч тэр AI-ын үхлийн өдөрт очих айдсыг “хоосон бүтээгдсэн худалдан авалт” гэж нэрлэдэг гэж тэрээр үздэг.
Дэвид Сакс бол венчурийн хөрөнгө оруулагч бөгөөд PayPal Mafia-ийн нэг хэсэг бөгөөд сүүлийн жилүүдэд технологийн салбарын зарим хүмүүсийн баруун зүгт шилжилтийг давхар илэрхийлсэн хүн юм. 2022 онд тэр Елон Маскны Twitter-ийн эзэмшихэд зөвлөх үйлчилгээ үзүүлж байсан ба гурван бусад венчур хөрөнгө оруулагчтай хамт All-In подкаст дээр Демократуудын талаарх шүүмжлэлийг тогтмол гаргаж ирдэг.
Дэвид Сакс нь технологийн салбарын баруун чиглэлд дуу донсолсон өөр нэг зэрэг холбоотнуудтайгаа хамт OpenAI болон Anthropic хоёр тэргүүн хиймэл оюун ухааны компанитай зарим талаараа зөрчилдөж байна. Тэр ба Силикон Валлейд нөлөө бүхий бусад хүмүүс “open weight” AI буюу банкны нууц загварууд биш, ил тод жинтэй загварууд” гэсэн өөр үзэлд тулгуурласан ирээдүйн чиг баримжааг дэмжиж ирсэн.
Шүүмжлэгчид нь нээлттэй жингийн AI нь аюулгүй байдал ба үндэсний аюулгүй байдлын ноцтой эрсдэлүүдийг бий болгож магадгүй гэж үздэг (удирдагч нээлттэй жинтэй загваруудын зарим нь Хятадаас гардаг); хамгаалагчид нь хамтран ажиллахад илүү үр дүнтэй гэж үздэг, учир нь хоёр компаниас гадна төсөөлөгдөж буй гол хүч нь дотроо төвлөрөлд орж байхыг дангаар харахаар байна.
Trump-ийн гадаад улсад AI чип борлуулахыг зөвшөөрөх хүсэл нь төрөл бүрийн нөлөөлөлд байх ба энэ нь зарим хэмжээгээр Сакс-ийн нөлөөллөөр л бий болсон гэж үздэг.
Гэвч Сакс-ийн үүрэг хэлэлцүүлэгт болзошгүй ер бусын нэг дүр зураг бий. Технологийн индустрийг дэмждэг ч түүнийг АНУ-ын хоёр том AI компаниудтай ямар ч фан байхгүй. Түүнийг технологийн салбарт ажиллаж байхад олж авсан хүчирхэг холбоотнууд болон олон дайсан бий — технологийн хөрөнгө оруулагч Пол Грэм нэг удаа Саксийг “Силикон Валлийн хамгийн муу хүн” гэж бичиж байсан (хариуд нь Сакс түүнд зодох хүн болж байна гэж нэрлээд antisemitism-ийн сэжиглэл дурдаж байсан). Түүний үүрэг, идеологи нь хиймэл оюун ухааны уралдааны улс төрийн өрсөлдөөн, геополитик нөхцөл байдлыг ойлгоход цонх нь болж өгдөг — мөн Трампын засгийн газрын бодлого ихэвчлэн агентлагийн бодлогын явцад биш харин ерөнхийлөгчийн дуу хоолойтой холбоотой байдлаас хэрхэн бий болдогийн илрэл юм.
2024 онд Трампыг дэмжиж мөн алт мөнгөтэй санхүүжүүлсний дараа — “I love David’s house, what a house,” гэж Трамп өөрийн Sacks-ийн 20 сая долларын Сан-Францискод орон сууцны баяр ёслолд хэлснээс хойш — Сакс нь White House-ийн “artificial intelligence and crypto czar” гэсэн албан тушаалыг авч ажилласан. Тэнд тэр бодлогыг өнгөрсөн гуравдугаар сарын дунд хүртэл удирдаж байв. Одоо ч тэр Ерөнхийлөгчийн технологийн хороог хөтөлдөг хэвээр байгаа ба түүний нөлөө улирал тутам дэд судаг хэвээр байна — заримдаа 5-р сарын ойролцоогоор Вашингтон Постод Сакс-ийн Трамптай хийсэн утсаар залгаж AI-ийг эрх зүйн түвшинд заалгах төлөвлөгөөг зогсоосон тухай мэдээлэл гарсан.
Сакс зөвхөн Трампын AI-д хандсан зөвлөхүүдийн тоонд багтдаг зүйл биш: Засгийн газрын бусад өндөр албан тушаалтан, жишээ нь Санхүүгийн яамны дарга Скотт Бессент ба Ерөнхий ажил хэрэгч Суза Вайлс нар шинэ AI хэрэгслүүдийн хууль бус hacking эрсдэлүүдээс болгоомжлоод төрийн байгууллага байгуулж салбарт хяналт тавьж авах гэсэн санаачлагыг дэмжсэн байна.
Гэвч одоогоор Трамп энэ туршлагыг өргөсгөж аваагүй ба Сакс-гийн байр суурийг илүү ойртуулсан байна. Даваа гараг Truth Social-д хэд хэдэн постоор тэр AI-ийг “Түүхийн хамгийн их эдийн засгийн хөгжлийн хөдөлгөгч хүч” гэж тунхаглав, АНУ-ыг Хятастай хиймэл оюун ухааны уралдаанд “ялах”-ыг шаардаж байгаа гэж хэлсэн ба AI нь “Дэлхийг сүйтгэнэ” гэсэн болзмуудыг “хоосон хуурмаг” гэж үгүйсгэжээ.
Сакс-ийн нөлөөний үр дагаварыг ойлгохын тулд түүний Silicon Valley-ийн AI экосистем дахь байр суурийг ойлгох хэрэгтэй. AI бодлогын үйл ажиллагаа эрхлэгчдтэй хийсэн ярианд түүнийг тухайн сөрвөлжлөө нөхцөл байдлын хоёр талаас харсан гэгддэг: нэг талаас түүний технологийн хөрөнгө оруулалтын түүх, нөгөө талаас хатуу чанга, зөрлөггүй хандлага.
Тэрбээр AI-ийн аюулгүй байдлын асуудлаархи эерэг чиглэлийг илэрхийлдэг боловч эх орноороо дэмжлэг нотолгоотой AI лабораторийн гол хоёр том байгууллагатай ойр нарийн холбоотой санагддаггүй.
Харин зөвхөн энэ биш юм. Сакс болон түүний гол түншүүд Женсeн Хуанг (Nvidia-ийн CEO) ба Марк Зукерберг (Meta-ийн CEO) зэрэг нь олон дахин AI хөгжүүлэлтийг олон газраас хийж, “open weight” буюу нээлттэй жинтэй эсвэл “open source” загваруудтай байх бодлогыг дэмжихийг хүсдэг. Эдгээр загварууд нь параметрүүдээ (жингүүд) нийтэд нээлттэй болгодог ба OpenAI ба Anthropic-ийн эзэмшдэг гол патентлагдсан загвараас ялгардаг.
“Инновацийг хөдөө орон нутгуудад хуваарилах нь аюулгүй, дистопи үзэлд хүргэх AI-ийн хөгжлийг хүчтэй гөлөгжүүлэлгүйгээр ард түмэнд хүртээмжтэй байлгана” гэж Сакс өнгөрсөн сарын эхэнд X-д бичсэн байна. Тэр OpenAI- Anthropic-ийг регуляцийгоор “шударгаар хөл бөглөх” гэж хэзээ ч илэрхийлж байсангүй гэж дурдаж, компаниудыг OpenAI- Anthropic-ийн харьцаанд богино хугацааны хурдасаар дэмжиж буй хамгаалах байдлыг буруутгаж байна.
Нээлттэй загваруудын дэмжигчид AI-ийг илүү өргөн хэрэглэгч, компаниуд өөрсдөө татаж авч, өөрсдийн дотоод параметрүүддээ тохируулан ажиллуулдаг журамтай болохыг хүсдэг — нэг буюу хэдхэн олон компаний гарт хандалтын хяналтаас чөлөөлөгдөнө. “Манай үед хамгийн тодорхой асуултууд нь хэн супер-intelligence-д хандах вэ, түүнийг юунд чиглүүлэх вэ вэ?” гэж Зукерберг өнгөрөгч сард бичсэн. “Тэргүүн төвлөрөлтэй олонтой байгууллагуудад л хязгаарлагдах уу, эсвэл энэ нь бүгдийг хүчирхэгжүүлэх хэрэгсэл болох уу?”
Энэ хувьцаанд их хэмжээний мөнгө эргэлдэж байна. Хуангийн Nvidia нь AI загваруудыг сургалтанд ашиглагдах чипүүдийг үйлдвэрлэдэг ба илүү их үйлчлүүлэгч авахыг хүсдэг (мөн сүүлийн сард open загварын санг хадгалдаг Hugging Face-г худалдан авах гэрээ хийсэн). Зукербергийн Meta нь АНУ-д нээлттэй загваруудыг хөгжүүлэх тэргүүлэгч байхаар төлөвлөж байна.
Ерөнхийдөө програм хангамжийн олон стартап үүсгэгчид болон тэднийг санхүүжүүлдэг венчур капиталистууд нээлттэй жинтэй AI-ийг өргөнөөр авах нь OpenAI ба Anthropic-ийн үнэтэй бүтээгдэхүүнээс хямд илүүдэл болно гэж үздэг. Craft Ventures-н үүсгэн байгуулагч Сакс болон гурван өөр венчур хөрөнгө оруулагчтай хамтдаа ярилцдаг энэхүү подкастыг тэр технологийн экосистемийн бусдаас илүүтэй холбож өгдөг байна.
Ийм төсөөлөлд хүрэхэд бий болсон олон хөрөнгө оруулалтын үр дүн нь Big Two AI компаниудын AI-ийн манлайлах байр суурийг тэргүүн байлгахыг эрсдэлд орлуулах эрсдэлтэй гэж олон хүн үзэж байна. Эсрэг талыг нь хэлбэл, хэд хэдэн хүмүүс эдгээр хоёр том компанийн програм хангамжийн салбарт “одоо дэлхий ертөнцийг эзлэхүйц байдалтай” гэж үзэж, эдгээр frontier лабораторуудын бүтээгдэхүүн өнөөгийн олон програм хангамжийн компаниудын олон ажиллалтын үйлчилгээний ихэнхийг авч болно гэж таамаглаж байна.
Гэхдээ аюулгүй байдлын асуудлаар дэмжигчид нь хаалттай “frontier” загварууд ба нээлттэй загваруудын эрсдлийг сануулж байна. “Нээлттэй эхийн талыг дурдсан байхад сөрөг этгээд болох террорист бүлэглэл, rogue улс, экстремист бүлэглэлүүдэд хорлон үйлдэх эрсдэл ихэсч байна” гэж Alliance for Secure AI-ийн Brendan Steinhauser хэлж байна. “Тэд SafetyFeatures-ийг сугалаад гаргаж авах, загваруудыг илүү аюултай болгох өөр тохиргоогоор сайжруулж, биологийн зэвсэг боловсруулахад ашиглах боломж олгож чадна.”
Гэвч нээлттэй жинтэй AI талын бүлэг өөрсдийн үзэгдэх өнцгөөс харахад, хиймэл оюун ухаанд хэтэрхий хүчингүй төрийн зохицуулалт байвал илүү ихийг золиослоод нээлттэй загварууд ба тэднийг ашиглагч компаниудыг ихэвчлэн хохирол хүлээх юм — OpenAI ба Anthropic-ийн давамгайллыг улам бататгаж, тэдгээрийн хэмжээ том тул шаламгай аюулгүй байдлын шаардлагыг дагаж биелүүлэх боломж нь илүү байна гэж үздэг. Тэд AI-ийн үүхсэн эрсдлийг дөнгөжчилж буй асуудлуудад багалзлын өндөр эрсдэл гэж үздэг боловч AI-ийн хүч нь эрх олгогч цөөн хүмүүсийн гарт байх гэж үзээд хэлдэг юм. Хүрээлэнгүүдийг бага зэрэг багасгаснаар илүү олон цэцэглэлүүд дэлгэрч өснө гэж Сакс үздэг.
Эдгээр санаанууд нь хөрөнгө оруулалтын үнээр хамаарах хүмүүсийн дунд л төдийгүй зүүн талын багш нарын дунд ч гүнзгий шүүмжлэлтэй байна. Мөн хүндрэлтэй байдал OpenAI ба Anthropic-ын анхаарлуудаас гадна зүүн талд хэт их анхаарлын доор буй OpenAI болон Anthropic-ийн санал болгож буй antitrust хууль эрх зүйн хөндлөн нөлөөг бататгаж, тэдний хамтрагчид safety-ийг хамгаалах зорилгоор хамтын ажиллагаагаагаа өргөжүүлэхийг хэлдэг зүйлүүд хүртэл хэлэлцүүлэгдэж байна.
Сэтгүүлзүй доторхи тэмдэглэлүүдээс харахад, Мэтт Столлер зэрэг олон хэлэлцэгчид “аюултай” супер-интеллектийн талаар анхааруулагчид нь технологийн “олигархууд”-ийн гарт эргэж байна гэж үздэг. Мөн American Prospect-ийн сүүлд нийтлэгдсэн нийтлэлд бодлогогүй, гагцхүү Panic үүсгэгч компаниудыг сүйрүүлэх бодлогоор хууль бус зарчмыг баталгаажуулах хэрэггүй гэж улс төрчдийг сануулав. Баруун талд Josh Hawley сенатор (R-MO) ба Ted Cruz (R-TX) ч AI компаниудын хязгаарлалтуудыг шаардсантай холбоотой асуудлыг капиталын зах зээлийн давамгайллыг нэгтгэх оролдлого гэж үзэж байгаа.
Politico-ийн үйл ажиллагаанд лхагва гарагт болсон үзэсгэлэнд — энэ асуудлаар хүрээлэл шүлэгтэй холбоотой хачир хүрэхийг илэрхийлэхийн тулд — Сакс өмнөх Домч Democratic FTC дарга Лина Ханыг AI компаниуд дээрх өнөөгийн хариуцах хариуцах хуулийн хамаарлыг хүлэмжлэн дэмжжээ гэж хэлж, Харин Хан нь шинэ хууль эрх зүйн хязгаарлагдлыг нэмж авах боломжтой гэж үзсэн бол Сакс нь өнөөгийн хууль хангалттай гэж үздэг. “Эдгээр CEO-ууд бүтээгдэхүүнүүд аюултай болгох юм бол тэд хуулийн хариуцлагаар хүлээх том хэмжээний цивиль ба criminal хариуцлага хүлээн зөвхөн түүгээр зогсохгүй” гэж тэр хэлсэн.
Үзэсгэлэнгийн бусад үед Сакс албан хоорондох ярилцлагад дууны өнгө зөөлрсөн нь дурдагдсан: тэр AI- Safety-д тухай “санал бодлоо” нээлттэй гэж үзнэ, “интеллектуал харилцан яриа” хийж рискуудыг хэрхэн удирдах вэ гэдэг асуудалд хамтдаа ярилцах хэрэгтэй гэж үздэг. Гэвч түүнд асуудал бол одоогийн явж буй зүйл бол “аймшгийн кампан” гэж үзээд ийм эрүүл сөрөг ярилцлагыг боломжгүй болгож байна гэж дүгнэсэн.
Америкчуудын Responsible Innovation-д толгойлж буй хууль зүйн зөвлөмжийн төлөөлөгч Брад Карсон хэлэхдээ Сакс AI бодлогын талаар ийн ярилцдаг учир нь Трампад AI бодлого бүхэлдээ тулгуур болж ирсэн гэжээ. “Трампийн засгийн газар ойлголцлын хязгаарлалтгүйгээр урт хугацаанд зөв шударгийг хэмжих хүртэл хүрсэн байдлаар асуудлыг авсан нь үйлдвэрлэлийг эрсдэлд оруулж байна” гэж Карсон хэлэв. “Хэдэн талаас харахаас, Давид Сакс тэр ёс суртахууны дүнзийн бичигт бичигдсэн хүний байгуулсан харагдана.”
Сакс хувийнхаа хувь нэмрийг Anthropic-ийн AI safety advocacy-д их чухал өргөнөөр санхүүжүүлж байгаа талаар иш татдаг — жишээлбэл, Карсоны байгуулсан нэг advocacy бүлэгт 40 сая доллар өгсөн нь Anthropic-ын тусламж байсан гэж хэлдэг — мөн компани энэ тухай “үсгөлдөгfear-монгери” бүхий регуляторын сөрөг урсгалыг баримталж байгаа стратегийг хэрэгжүүлж байна гэж хэлдэг.
If we’re in an AI race with China, why are some of Trump’s policies friendly to Chinese AI?
Сакс-ийн үзэл баримтлал, түүний харах өнцөг нь засгийн газрын бодлого нь АНУ Хятадын AI-ийн уралдаанд дуустал давамгайлах ёстой гэж үздэг байдлаас төрийн бодлогоын өөр нэг учир битүүлэг асуудлыг тайлбарлахад тусална гэж хэлж буй: Трамп Хятадтай AI-ийн уралдаанд АНУ-ын ялалт нэн чухал гэж үзэж байхад яагаад AI чипүүдийг гадаадад худалдаж авахыг зөвшөөрдөг вэ?
Аюулгүй байдлын хатуу талтай биш, дотоодын шүүлтүүрийн хяналтад байна гэж Британид ойлгодог National security hawks нь эдгээр борлуулалтыг хориглодог эсвэл эрс хязгаарлахыг хүсэж байсан болцгоой. Хуран Хуанг Nvidia-ийн хамгийн эрч хүчтэй чипүүдийг Саудийн Араб, Бүх нийтийн Эмирийн ард өргөдөлд борлуулахыг сэтгэл ханган зүгээр л Хятадад чип борлуулахыг дахин зөвшөөрөх зэрэг сөрөг хүчин гаргахыг хичээсэн. Сакс нь Хуанг-ийн дотор дуудах хамгийн том дэмжигч болсон — тэд хангалттай байж, Ерөнхийлөгчийг байгууллагажуулахад амжилт гаргасан. Сакс илчлээд байсан нь Хятад улс FIA-оос Хятадын компаниуд Huawei зэрэг америкийн зах зээл доторх дотоод зах зээлийг эзэмдэхэд тусална гэж үзээд АНУ-ын удаан хугацааны хурдаар тогтоох үндсэн нөхцлийг сулруулна гэж үзсэн.
Улс төрийн аюулгүй байдлын сөрөг хүчин тодроод байна гэж үздэг хүмүүсийн үзэж байгаагаар Сакс-ийн хувийн AI-глядахуйн үзэл Хятадын AI салбарыг хүчирхэгжүүлэх магадлалтай байна. “Дотоод бодлого дээр дөнгөжэ ярилцахад л эвтэй байх, гэхдээ АНУ-ын AI стек– загварууд, үүлэн тархалт ба чипүүд дэлхийд давамгайлах ёстой гэж үзвэл Хятадад технологийг өгөх нь түүнийг дэмжихээс өөр юу ч биш юм” гэж CFR-ийн Крис Макгвайр хэлэв. “Тиймээс Хятадад нэвтрүүлэх технологийг өгөх нь АНУ-ын глобаль хүчийг бууруулах үндэс суурийг бий болгодог.”
Хятад улс мөн Sacks-ийн илэрхийлэлд нөлөөлдөг хүчин зүйл болох Open Weight AI-гийн асуудалд хүрэлцэн ирдэг — учир нь DeepSeek, Moonshot зэрэг Хятадын компаниуд Америк программ хангамжийн стартапууд одоогийн байдлаар ашиглаж буй хамгийн тэргүүн нээлттэй жинтэй загваруудыг боловсруулдаг байна.
OpenAI ба Anthropic нь эдгээр Хятадын загваруудыг үндэсний аюулгүй байдлын эрсдэлүүдтэй холбож үздэг, тэдгээр нь өөрсдийн загваруудаа “өөрсдийн загваруудыг дуурайх” буюу “distilling” хийхэд ихээхэн хамаардаг гэж үздэг ба АНУ-ын засгийн газраас эдгээр загваруудыг шалгахыг хүсдэг. Зарим Трампын албан хаагчид тэдний асуудалд дэмжлэг үзүүлсэн гэж мэдээлсэн ч засгийн газар Америк дахь эдгээр Хятадын загваруудыг хориглоогүй. Сакс үр дүнд АНУ-ын Хятадын нээлттэй жинтэй загваруудыг хоригловол OpenAI- Anthropic хоёрын дуополи тогтохыг тэр үзэж байна.
Ерөнхийдөө, хоёр улсын аюулгүй байдлын эрсдэл ба AI-ийн аюулгүй байдлын аюулд шилжсэн эдгээр асуудлуудад Сакс ба Хуанг хоёул АНУ-ын толгойт чихэнд дуу хоолойтой хэвээр байна.
Дэлгэрэнгүй хэлэлцүүлгийн нэг өдөр — Полицио-ийн арга хэмжээний үеэр — Сакс Хуангтай хамт All-In подкастыг амьдягас ярилцах үеэр Nvidia-ийн CEO-ийг татаж авах утасны дуудлага дамжигдсан нь үнэндээ Трамп байжээ.
“Роботууд дэлхийг эзлэх гээд байна гэж байхгүй,” гэж Трамп гар хэлсэн. “Ийм зүйл саяхан болно гэж үгүй.”
Тэгээд хэдэн минут ярилцсны дараа Трамп нэмж хэлсэн юм: “Дэвид гайхалтай ажил хийсэн байна.”
