OpenAI perspėjo apie AI atradimą, galintį kelti grėsmę žmonijai

Diena prieš tremtis „OpenAI“ generalinis direktorius Samas Altmanas, keletas bendrovės darbuotojų tyrėjų parašė direktorių valdybai laiškas, įspėjantis apie galingo dirbtinio intelekto atradimą, kuris, anot jų, „gali kelti grėsmę“. žmonijai“. Apie tai remdamiesi mūsų šaltiniais rašo Reuters.

Būtent šis laiškas buvo nurodytas kaip vienas iš veiksnių ilgame direktorių tarybos skundų sąraše, dėl kurio Altmanas buvo atleistas. Reuters negalėjo asmeniškai pasikalbėti su autoriais ar gauti komentarų iš OpenAI. Tačiau po tokio prašymo įmonė vidiniu pranešimu darbuotojams paskelbė apie tam tikro projekto, pavadinto Q* (tariama Q-Star) egzistavimą.

Kai kurie OpenAI darbuotojai mano, kad Q* gali būti proveržis vadinamojoje bendras dirbtinis intelektas (AGI). OpenAI apibūdina ją kaip autonominę sistemą, kuri pranoksta žmones atliekant ekonomiškai vertingiausias užduotis.

Kol kas Q* gali atlikti matematikos uždavinius tik pradiniame lygmenyje, teigia vienas šaltinis. mokyklų, tačiau sėkmingas tokių testų atlikimas suteikia tyrėjams didelį optimizmą dėl jo perspektyvų plėtra.

Pagrindinis skirtumas tarp tokio AI yra tas, kad jis gali nustatyti tikslus, suskirstyti sudėtingas problemas į mažas, išspręsti daugybę problemų ir rasti sprendimus, atsižvelgdamas į kontekstą iš skirtingų sričių. Paprasčiau tariant, toks intelektas teoriškai gali pakeisti aukštos kvalifikacijos specialistą, turintį žinių, įgūdžių ir didelę patirtį.

Mokslininkai mano, kad matematika yra generatyvaus AI pažanga. Šiais laikais jis puikiai rašo ir verčia, statistiškai nuspėja kitą žodį, o atsakymai į tą patį klausimą gali būti labai įvairūs. Tačiau matematikos užkariavimas (kur yra tik vienas teisingas atsakymas) reiškia, kad AI turės platesnius mąstymo gebėjimus, panašius į žmogaus intelektą. Tai gali būti pritaikyta, pavyzdžiui, naujiems moksliniams tyrimams, sako ekspertai.

Savo laiške direktorių tarybai tyrėjai atkreipė dėmesį į AI galią ir galimus pavojus. Jie taip pat atkreipė dėmesį į specialios „dirbtinio intelekto mokslininkų“ grupės darbą, kurio egzistavimą patvirtino daugybė šaltinių. Komanda tiria, kaip optimizuoti esamus AI modelius, kad patobulintų jų samprotavimus ir galiausiai atliktų mokslinį darbą su jais, sakė vienas iš žmonių.

Altmanas siekė, kad „ChatGPT“ būtų viena greičiausiai augančių programinės įrangos programų istoriją ir pritraukė iš „Microsoft“ investicijų ir kompiuterinių išteklių, reikalingų tokiai atnešti AGI. Ir prieš pat atleidimą per pasaulio lyderių viršūnių susitikimą San Franciske jis paskelbė kai kuriuos „rimtus pasiekimus, kurie yra visai šalia“.

Po dienos valdyba Altmaną atleido.

Galbūt vieną dieną visi šie sprendimai ir įvykiai taps knygos, viso filmo ar net istorijos vadovėlio pagrindu.