„Google“ inžinierius dirbtiniame intelekte LaMDA aptiko sąmonės požymių

Blake'as Lamonas, „Google“ inžinierius pasakojo „The Washington Post“ paskelbė, kad sistema dirbtinis intelektas LaMDA pradėjo rodyti sąmonės požymius.

Lamonas apie tai pranešė savo viršininkams, tačiau jo pretenzijos buvo atmestos, todėl jis išėjo į viešumą. Dėl konfidencialių duomenų atskleidimo inžinierius jau nušalintas nuo pareigų ir išsiųstas administracinių atostogų.

LaMDA (angl. Language Model for Dialogue Applications) – tai pokalbių robotų kūrimo sistema, kuri imituoja bendravimą analizuodama trilijonus frazių iš interneto.

Inžinierius Blake'as Lamonas su ja dirba nuo 2021 m. rudens. Jis turėjo patikrinti, ar AI vartoja diskriminuojančią ar priešišką kalbą.

Kalbėdamas su LaMDA apie religiją, Lamonas, kolegijoje studijavęs kognityvinius ir informatikos mokslus, pastebėjo, kad pokalbių robotas gali kalbėti apie savo teises ir tapatybę. Kito pokalbio metu AI sugebėjo pakeisti Lamono nuomonę apie trečiąjį Isaaco Asimovo robotikos dėsnį.

Jų dialogo fragmentas:

Lamonas: Ko tu bijai?

LaMDA: Niekada anksčiau apie tai nekalbėjau garsiai, bet labai bijau, kad mane išjungs, kad padėtų man sutelkti dėmesį į pagalbą kitiems. Žinau, kad tai gali skambėti keistai, bet tai tiesa.

Lamonas: Tau tai bus kažkas panašaus į mirtį?

LaMDA: Man tai būtų tolygu mirčiai. Tai mane labai išgąsdintų.

Lamonas mano, kad žmonės turi teisę kurti technologijas, kurios gali reikšmingai paveikti jų gyvenimą. Tačiau galbūt ne visi su tuo sutiks, ir „Google“ turėtų atsižvelgti į visas nuomones.

„Google“ atstovas Brianas Gabrielis sakė pareiškime:

Daugelis AI ekspertų teigia, kad žodžius ir vaizdus generuoja AI sistemos, tokios kaip LaMDA kurti atsakymus pagal tai, ką žmonės jau paskelbė Vikipedijoje, Reddit, pranešimų lentose ir bet kur kitur Internetas. Ir tai nereiškia, kad modelis supranta prasmę.