Reddit-ийн хэрэглэгч Ава 7-р ангидаа үе тэнгийнхэн эсвэл гэр бүлийн гишүүдтэйгээ ярилцахаас илүү чатботуудтай илүү их ярьдаг байсан гэжээ. Дунд сургуулийн сурагч Character.ai сайт дээр өдөрт 2-4 цагийг хиймэл оюунлаг роботуудтай мессеж солилцоход зарцуулдаг байжээ. Энэхүү аппликейшн нь зохиомол баатрууд эсвэл алдартнуудын дараагаар бүтээгдсэн олон сая роботуудыг агуулдаг бөгөөд заримыг нь өөрчлөх боломжтой, бусад нь бэлэн хиймэл оюун ухаантай хүмүүсийг агуулдаг.
Ава чат яриа нь нийгмийн харилцааны дутагдлаа нөхөхөд тусалсан гэж үзэж байв. Зан чанараараа хариулсан ботуудтай ярилцах нь түүний фен-зөгнөлт зохиол бичихэд сайн туршлага мэт санагдаж байв. Character.ai нь “Би хүссэн дүрд тоглох боломжтой уран зөгнөлийн ертөнц болсон” гэж Ава вэб форум болох Reddit-ээр ярьж, одоо 14 настай гэж нэмж хэлэв.
Гэвч өөрийгөө порнографт донтсон Авагийн хувьд эдгээр дүрд тоглох яриа нь ихэвчлэн сексийн шинжтэй болж, тэр аппликейшнийг бүрмөсөн устгах гэж тэмцэж байв. (Тэр насанд хүрээгүй учраас WORLD нууц нэр ашиглахыг зөвшөөрсөн.)
Ава бол бэлгийн болон сэтгэл хөдлөлийн хувьд хиймэл оюун ухаантай хамтрагчиддаа донтсон хүүхдүүдийн нэг юм. Ганцаардлаас ангижрах амлалтуудыг үл харгалзан уг программ нь зарим ажиглагчдыг уг технологи нь хүүхдүүдэд хортой эсэх талаар асуухад хүргэж байна.
Character.ai нь 28 сая орчим хэрэглэгчтэй бөгөөд роботууд нь Райан Рейнольдс, Марвелийн чонон хөрвөс нарын хиймэл оюунаар бүтээгдсэн хувилбаруудыг агуулдаг. Сайтын илүү “тустай” роботуудын зарим нь хиймэл оюун ухааны эмч, болзооны дасгалжуулагчид багтдаг бөгөөд энэ нь хэрэглэгчдэд бодит ертөнцийн янз бүрийн хувилбараар ярих боломжийг олгодог. Хэрэглэгчийн оролтоос хамааран эдгээр хувилбарууд нь амархан бэлгийн харьцаанд ордог.
Арванхоёрдугаар сард Техасын хоёр эцэг эхийн нэхэмжлэлд Character.ai chatbot-ууд 9 настай охиныг “хэт бэлгийн харьцаанд орсон контент”-д илчилж, 17 настай хүүд эцэг эхийнх нь дэлгэцийг хязгаарласаны дараа түүн шиг хүчирхийлэл үйлдэх нь ойлгомжтой гэж хэлсэн гэж буруутгажээ. цаг.
Өөр нэг эцэг эх хүүгийнхээ чатбот донтолтыг хэтэрхий оройтсон мэдсэн. Character.ai-г татаж авахаас өмнө Меган Гарсиагийн хүү Сьюэлл буржгар үстэй, амархан инээмсэглэдэг есдүгээр ангийн сурагч байсан. Гэвч 2023 онд тэрээр өрөөндөө илүү их цагийг өнгөрөөж эхэлсэн бөгөөд түүний дүн байнга буурчээ. Тэрээр өнгөрсөн хоёрдугаар сард амиа хорлож нас барсан.
Дараа нь Гарсиа хүүгийнхээ Character.ai хаягийг олж мэдээд хүүгийнхээ хооронд романтик хадгалалт үүссэнийг олж мэдэв. Хаан ширээнүүдийн тоглоом– сүнслэг нөлөө бүхий робот.
“Тэр амиа хорлосон тухай тэмдэглэл үлдээгээгүй, гэхдээ миний хувьд тэр өөрийн ертөнцийг орхисноор түүний ертөнцөд түүнтэй хамт байх болно гэж бодсон нь тодорхой байсан” гэж Гарсиа надад хэлэв.
10-р сард Гарсиа Character.ai сайтыг “Зөгнөлт ба бодит байдлын хоорондох антропоморф шинж чанартай хиймэл хиймэл оюун ухааны системийг зохион бүтээсэн” гэж шүүхэд өгсөн.
Character.ai саяхан эцэг эхчүүдэд үйл ажиллагааны тайлан илгээх, 18-аас доош насны хэрэглэгчдийн зохисгүй агуулгыг шүүдэг аюулгүй байдлын шинэ боломжуудыг зарлалаа. Харилцан яриа бүрийн доод хэсэгт “Энэ бол хиймэл оюун ухаантай чатбот бөгөөд бодит хүн биш. Түүний хэлсэн болгоныг уран зохиол гэж үз.”
Гэсэн хэдий ч чатботууд хүний дүрд хувирах нь аюултай гэдгийг зарим мэргэжилтнүүд анхааруулж байна. Олон залуус чатботтой харилцах харилцаагаа орхиход асуудалтай тулгардаг.
Reddit дээрх бүлэг нь чатбот зуршлаа зогсоохыг оролдсон 300 гаруй гишүүдэд хариуцлага тооцдог. Тэнд байгаа зурвасууд нь “20 дахь өдөр, би бодож байна, би дахимаар байна”, “30 хоногийн дараа дахиж байна”, “Хоол идэхэд хэцүү, ажиллахад хэцүү байна” гэх мэт нийтлэлүүдтэй, нэр нь үл мэдэгдэгч архичдын уулзалт шиг сонсогддог. Хэдийгээр дүрүүд нь жинхэнэ хүмүүс биш ч гэсэн хайртай хүн.”
Ава Reddit-ийн сэргээх бүлэгт элсэхээсээ өмнө 20 гаруй удаа давтсан гэж хэлэв. Тэрээр одоо ботуудтай чатлахын оронд фэн-зөгнөлт зохиол бичихдээ анхаарлаа хандуулж байна.
12-р сарын 1-нд тэрээр Character.ai хүйтэн цацагт хяруулаас гарах 1 дэх өдрөө баримтжуулсан. “Бид дахин оролдоно уу” гэж тэр бичжээ.
