Ar pokalbių robotai gali tapti tokie pat sąmoningi kaip žmonės?
įvairenybės / / October 31, 2023
Į šį klausimą bando atsakyti dvi priešingos teorijos.
Kristofas Kochas
Amerikiečių neurologas, Alleno smegenų tyrimų instituto direktorius.
Klausimai apie tai, kas yra subjektyvi patirtis, kas ją turi ir kaip ji susijusi su mus supančiu fiziniu pasauliu, persekiojo filosofų protus didžiąją žmonijos istorijos dalį. Tačiau mokslinės sąmonės teorijos, kurias galima kiekybiškai įvertinti ir empiriškai patikrinti, atsirado tik per pastaruosius kelis dešimtmečius.
Daugelis šiuolaikinių sąmonės teorijų sutelkia dėmesį į pėdsakus, paliktus smulkių smegenų ląstelių tinklų, iš kurių kyla sąmonė. Šiandien dominuoja dvi iš jų: integruota informacijos teorija ir neuroninės globalios darbo erdvės teorija.
Prieš 25 metus mes susiginčijome su australų filosofu Davidu Chalmersu. Pažadėjau jam gero vyno atvejį, jei šie nerviniai pėdsakai, techniškai vadinami neuroninėmis sąmonės koreliacijomis, bus atrasti ir aiškiai aprašyti iki 2023 m. birželio mėn.
Tačiau prieštaravimas tarp integruotos informacijos teorijos ir neuroninės globalios darbo erdvės teorijos lieka neišspręstas. Taip yra dėl iš dalies mišrių įrodymų, kurios smegenų sritys yra atsakingos už regėjimo patirtį ir subjektyvus veidų ar objektų suvokimas, nors prefrontalinės žievės svarba sąmoningam patyrimui paneigta. Taigi pralaimėjau lažybas ir nusiunčiau vyną Chalmersui.
Abi dominuojančios teorijos buvo sukurtos siekiant paaiškinti ryšį tarp sąmonės ir nervų veiklos žmonėms ir susijusiems gyvūnams, tokiems kaip beždžionės ir pelės. Ir abi teorijos daro iš esmės skirtingas prielaidas apie subjektyvią patirtį ir daro priešingas išvadas apie sąmonę dirbtinuose artefaktuose. Kiek šios teorijos yra empiriškai patvirtinamos arba paneigiamos, atsižvelgiant į įsišaknijusią sąmonę smegenys, turi svarbių pasekmių atsakant į neišspręstą mūsų laikų klausimą: ar mašinos gali laimėti sąmonė?
Kas yra naujos kartos pokalbių robotai?
Prieš aptariant tai, leiskite man pažvelgti į kontekstą ir palyginti sąmoningą techniką su technika, kuri pasižymi tik protingu elgesiu. Kompiuterių inžinieriai stengiasi aprūpinti mašinas itin lanksčiu intelektu, kuris kažkada leido asmuo palikti Afriką ir apgyvendinti visą planetą. Tai vadinama dirbtiniu bendruoju intelektu (AGI).
Daugelis teigia, kad AGI yra tolima perspektyva. Nuostabi pažanga, padaryta dirbtinio intelekto srityje per pastaruosius metus, nustebino visą pasaulį, įskaitant ekspertus. Atsiradus iškalbingoms pokalbių programinės įrangos programoms, šnekamojoje kalboje vadinamoms pokalbių robotais, iš ezoterinės temos, aptarė mokslinės fantastikos gerbėjai ir IT pramonės elitas iš Silicio slėnio, diskusijos apie AGI virto diskusija kuri atspindi plačiai paplitusią visuomenės nepasitenkinimą dėl egzistencinės rizikos mūsų gyvenimo būdui ir mūsų malonus.
Pokalbių robotai yra pagrįsti didžiuliais kalbų modeliais. Garsiausios iš jų yra robotų serija, vadinama generatyviniais iš anksto apmokytais transformatoriais arba GPT. Juos sukūrė OpenAI San Franciske. Atsižvelgiant į naujausios versijos GPT-4 lankstumą, raštingumą ir kompetenciją, nesunku patikėti, kad ji pasižymi intelektualumu ir asmeniškumu. Net jos keisti nesklandumai, žinomi kaip „haliucinacijos“, tinka šiai teorijai.
GPT-4 ir jo konkurentai, tokie kaip LaMDA ir Google's Bard, yra mokomi suskaitmenintų knygų bibliotekų ir milijardų viešai prieinamų tinklalapių. Kalbos modelio genialumas yra tas, kad jis mokosi neprižiūrimas, apdorodamas žodį po žodžio ir bandydamas nuspėti trūkstamą išraišką. Ji tai daro vėl ir vėl, milijardus kartų, be išorės įsikišimo.
Kai modelis įgyja žinių, įtraukdamas suskaitmenintus žmonijos įrašus, vartotojas parodo nepažįstamą sakinį – vieną ar daugiau. Modelis numato labiausiai tikėtiną pirmąjį žodį, paskui kitą ir pan. Šis paprastas principas parodė neįtikėtinus rezultatus anglų, vokiečių, kinų, hindi, korėjiečių ir kitomis kalbomis, įskaitant įvairias programavimo kalbas.
Kuo skiriasi intelektas ir sąmonė
Svarbu tai, kad pagrindinis esė apie dirbtinį intelektą „Skaičiavimas ir intelektas“, kurią parašė Alanas Turingas 1950 m. vengė klausimo „Ar mašinos gali mąstyti?“, tai yra, klausimo, ar jos turi sąmonė. Turingas pasiūlė „imitacijos žaidimą“: ar stebėtojas gali objektyviai atskirti žmogaus išspausdintą išvestį nuo mašinos išspausdintos išvesties, jei abiejų tapatybės yra paslėptos.
Šiandien tai žinoma kaip Turingo testas, o pokalbių robotai tai puikiai atlieka, nors jie sumaniai tai neigia, jei jų paklausiate tiesiogiai. Turingo strategija prasidėjo dešimtmečius trukusi nenumaldoma pažanga, dėl kurios buvo sukurtas GPT, tačiau į šią problemą neatsižvelgta.
Pokalbių roboto diskusijose numanoma prielaida, kad dirbtinis intelektas yra tas pats, kas dirbtinė sąmonė, kad būti protingam yra tas pats, kas būti sąmoningam. Ir nors žmonių ir kitų išsivysčiusių organizmų intelektas ir sąmonė yra susiję, jie nebūtinai visada lydi vienas kitą.
Intelektas yra mąstymas ir mokymasis veikti bei iš savo ir kitų veiksmų, siekiant tiksliau numatyti ateitį ir geriau jai pasiruošti. Nesvarbu, ar tai reikš ateinančias kelias sekundes („O, ta mašina greitai lekia link manęs“), ar ateinančius kelerius metus („man reikia išmokti koduoti“). Intelektas galiausiai yra veiksmas.
Kita vertus, sąmonė siejama su būties būsenomis – matyti mėlyną dangų, girdėti paukščių giedojimą, jausti skausmą, būti įsimylėjėliai. Nesvarbu, ar nevaldomas dirbtinis intelektas kažką jaučia. Svarbu tik tai, kad jis turi tikslą, nesusijusį su ilgalaike žmonijos gerove. Ir nesvarbu, ar jis žino, ar ne, ką bando daryti, ką žmonės vadina savimone. Jis „be proto“ sieks savo tikslo. Taigi, bent jau konceptualiai, net jei sukursime AGI, jis mums daug nepasakys, ar jis ką nors jaučia.
Žinodami visa tai, grįžkime prie pradinio klausimo, kaip technologija gali tapti sąmoninga. Pradėkime nuo pirmosios iš dviejų teorijų.
Kokį paaiškinimą siūlo integruotos informacijos teorija?
Ji pradeda suformuluodama penkias aksiomatines kiekvienos įsivaizduojamos subjektyvios patirties savybes. Ir tada užduoda klausimą, ko reikia neuroninei grandinei, kad įgyvendintų šias penkias savybes, įjungiant vienus neuronus ir išjungiant kitus. Arba, kitaip tariant, ko reikia kompiuterio lustui, kad įjungtų vienus tranzistorius, o išjungtų kitus.
Priežasties ir pasekmės sąveika grandinėje tam tikroje būsenoje arba tai, kad du aktyvūs neuronas gali įjungti arba išjungti kitą neuroną, priklausomai nuo aplinkybių, gali būti dislokuoti į daugiamatę priežastinę struktūrą. Tai identiška patyrimo kokybei – kaip ji patiriama, pavyzdžiui, kaip patiriamas laikas ir erdvė arba kaip suvokiamos spalvos.
Patirtis taip pat turi tam tikrą kiekį – jos integruotą informaciją. Tik grandinė, turinti maksimalią nulinę integruotą informaciją, egzistuoja kaip visuma ir turi sąmonę. Kuo daugiau informacijos integruota, tuo daugiau grandinės negalima sumažinti ir tuo mažiau ją galima laikyti tiesiog nepriklausomų grandinių superpozicija.
Integruota informacijos teorija pabrėžia turtingą žmogaus patirties prigimtį. Tiesiog apsidairykite aplinkui ir prieš jus atsiras stulbinantis matomas pasaulis su daugybe skirtumų ir ryšių. Arba pažiūrėkite į Pieterio Bruegelio vyresniojo, XVI amžiaus flamandų menininko, paveikslą, vaizduojantį religines temas ir valstiečių gyvenimo scenas.
Bet kuri sistema, turinti tokius pačius vidinius ryšius ir priežastines galias kaip ir žmogaus smegenys, iš principo bus tokia pat sąmoninga kaip ir žmogaus protas. Tačiau tokios sistemos modeliuoti negalima. Jis turi būti sukurtas arba pastatytas pagal smegenų vaizdą. Šiuolaikiniai skaitmeniniai kompiuteriai yra pagrįsti itin laisvu sujungimu (vieno tranzistoriaus išėjimas, prijungtas prie kelių tranzistorių įvesties). palyginimas su centrine nervų sistema (žievės stulpelio neuronas gauna įvesties duomenis ir pateikia išvesties duomenis dešimčiai tūkstančių kitų neuronai).
Taigi šiuolaikiniai kompiuteriai, įskaitant debesų kompiuterius, nieko nesužinos, nors laikui bėgant galės padaryti viską, ką gali padaryti žmonės. Šiuo požiūriu ChatGPT niekada nesijaus ypatingas. Atkreipkite dėmesį, kad šis teiginys neturi nieko bendra su bendru komponentų skaičiumi, nesvarbu, ar tai neuronai, ar tranzistoriai, o su tuo, kaip jie yra sujungti. Būtent tarpusavio ryšys lemia bendrą grandinės sudėtingumą ir galimų jos konfigūracijų skaičių.
Kokį paaiškinimą siūlo neuroninės globalios darbo erdvės teorija?
Tai kyla iš psichologinio supratimo, kad intelektas kaip teatras, kuriame aktoriai vaidina mažoje apšviestoje scenoje, kuri yra sąmonė. Aktorių veiksmus stebi procesorių publika, kuri tamsoje sėdi už scenos.
Scena yra centrinė proto darbo erdvė, turinti mažą atminties talpą vienam suvokimui, mintims ar atminčiai reprezentuoti. Įvairūs apdorojimo moduliai – regėjimas, klausa, akių ir galūnių motoriniai įgūdžiai, planavimas, sprendimas, kalbos supratimas ir kalbėjimas – konkuruoja dėl prieigos prie šios centrinės darbo vietos. Laimėtojas išstumia seną turinį, kuris tampa nesąmoningas.
Remiantis neuroninės globalios darbo erdvės teorija, metaforinė scena kartu su apdorojimo moduliais yra susieta su neokortekso architektūra. Darbo vieta yra smegenų priekinėje dalyje esančių žievės neuronų tinklas su ilgo nuotolio projekcijomis į panašūs neuronai, pasiskirstę neokortekse prefrontalinėje, parietotemporalinėje ir cingulinėje asociacijos žievė.
Kai veikla jutiminėje žievėje viršija tam tikrą slenkstį, žievės srityse suveikia visuotinis įvykis ir dėl to informacija perduodama visai darbo erdvei. Pasaulinė informacijos sklaida daro ją sąmoningą. Tokiu būdu neperduodami duomenys, pavyzdžiui, tiksli akių padėtis ar raštingų sakinių kūrimo sintaksės taisyklės, gali turėti įtakos elgesiui, bet ne sąmoningai.
Neuroninės globalios darbo erdvės teorijos požiūriu patirtis yra labai ribota, panaši į minties ir abstraktus – panašus į menką aprašymą, kurį galima rasti muziejuje po Bruegelio paveikslu: „Scena in patalpose. Renesanso laikų drabužiais vilkintys valstiečiai geria ir valgo vestuvėse“.
Suprasdamas sąmonę iš integruotos informacijos teorijos perspektyvos, menininkas puikiai perteikia supančio pasaulio fenomenologiją dvimatėje drobėje. Neuroninės globalios darbo erdvės teorijos supratimu šis akivaizdus turtas yra iliuzija, vaiduoklis. Ir viskas, ką apie tai galima objektyviai pasakyti, yra nurodyta trumpame aprašyme.
Neuroninė globali darbo erdvės teorija visiškai atsižvelgia į mūsų kompiuterių amžiaus mitus, pagal kuriuos viską galima redukuoti į skaičiavimus. Tinkamai užprogramuotas kompiuterinis smegenų modeliavimas su didžiuliu grįžtamuoju ryšiu ir panašiu į centrinę darbo erdvę sąmoningai suvoks pasaulį. Galbūt ne dabar, bet gana greitai.
Koks yra nesuderinamas skirtumas tarp teorijų?
Apskritai diskusija yra tokia. Pagal neuroninės globalios darbo erdvės teoriją ir kitas skaičiavimo funkcionalizmo teorijas (jos į sąmonę žiūrėk kaip į skaičiavimo formą), sąmonė yra ne kas kita, kaip išmaniųjų algoritmų rinkinys, veikiantis mašinoje Turingas. Sąmonei svarbios funkcijos smegenys, o ne jo priežastinės savybės. Jei kuri nors pažangi GPT versija priima ir sukuria tokius pat įvesties ir išvesties modelius kaip ir žmonės, visos mums būdingos savybės bus perkeltos į technologijas. Įskaitant mūsų brangų lobį – subjektyvią patirtį.
Ir atvirkščiai, integruotos informacijos teorijos atveju sąmonės širdis yra vidinė priežastinė galia, o ne skaičiavimas. Tai nėra kažkas eterinio ar neapčiuopiamo. Jis yra specifinis ir funkciniu požiūriu nulemtas to, kiek sistemos praeitis lemia jos dabartį (priežasties galia), ir kiek dabartis lemia jos ateitį (pasekmės galia). Ir štai trina: paties priežasties ir pasekmės ryšio, galimybės priversti sistemą atlikti tam tikrą veiksmą, o ne daug alternatyvių, modeliuoti negalima. Ne dabar, ne ateityje. Tai turėtų būti integruota į sistemą.
Apsvarstykite kompiuterinį kodą, modeliuojantį Einšteino bendrosios reliatyvumo teorijos lauko lygtis, kurios susieja masę su erdvėlaikio kreivumu. Programinė įranga tiksliai modeliuoja supermasyvą Juodoji skylė, kuris yra mūsų galaktikos centre. Ši skylė daro tokį stiprų gravitacinį poveikį aplinkai, kad niekas, net šviesa, negali išvengti jos traukos.
Tačiau juodąją skylę imituojančio astrofiziko į nešiojamąjį kompiuterį neįsiurbs imituojamas gravitacinis laukas. Šis, atrodytų, absurdiškas pastebėjimas išryškina skirtumą tarp modelio ir tikrovės: jei modelis yra visiškai atitinka tikrovę, aplink nešiojamąjį kompiuterį turėtų būti iškraipoma erdvė ir laikas, sukuriant viską sugeriančią juodąją skylę aplinkui.
Žinoma, gravitacija nėra skaičiavimas. Jis turi priežastinę jėgą, leidžiančią deformuoti erdvės laiko audinį ir pritraukti viską, kas turi masę. Juodosios skylės priežastinių jėgų modeliavimui reikalingas tikras supersunkus objektas, o ne tik kompiuterio kodas. Priežastinės jėgos negalima modeliuoti, ji turi būti sukurta. Skirtumas tarp tikrovės ir modelio slypi jų priežastinėse galiose.
Štai kodėl lietus nelyja kompiuteryje, imituojančiame liūtį. Programinė įranga funkciškai identiška oro sąlygoms, tačiau jai trūksta priežastinės galios išleisti garus ir paversti juos vandens lašeliais. Priežastinė galia, gebėjimas pačiam kurti ar priimti pokyčius, turi būti įmontuota į sistemą. Tai įmanoma.
Vadinamasis neuromorfinis arba bioninis kompiuteris gali būti toks pat sąmoningas kaip žmogus. Tačiau tai netinka standartinei von Neumann architektūrai, kuri yra visų šiuolaikinių kompiuterių pagrindas. Laboratorijose buvo sukurti nedideli neuromorfinių kompiuterių prototipai, pavyzdžiui, Intel antrosios kartos neuromorfinis lustas Loihi 2. Tačiau mašina, pakankamai sudėtinga, kad sukurtų kažką panašaus į žmogaus sąmonę ar bent jau vaisinės musės sąmonę, vis dar yra ambicinga tolimos ateities svajonė.
Atkreipkite dėmesį, kad šis nesuderinamas skirtumas tarp funkcionalistinės ir priežastinės teorijos neturi nieko bendra nei su natūraliu, nei su dirbtiniu intelektu. Kaip sakiau anksčiau, intelektas yra elgesys. Viskas, ką gali sukurti žmogaus išradingumas, įskaitant tokius puikius romanus kaip Octavia Butler parabolė apie sėjėją ir Levo Tolstojaus „Karas ir taika“, gali atkurti algoritminę žvalgybą, jei pateiks pakankamai medžiagos mokymas. AGI atsiradimas yra tikslas, kurį galima pasiekti netolimoje ateityje.
Diskusijos vyksta ne apie dirbtinį intelektą, o apie dirbtinę sąmonę. Ir šios diskusijos negali būti išspręstos kuriant didesnius kalbos modelius ar pažangesnius neuroninių tinklų algoritmus. Norėdami atsakyti į šį klausimą, turime suprasti vienintelį subjektyvumą, dėl kurio esame visiškai tikri: savo. Kai turėsime aiškų žmogaus paaiškinimą sąmonė ir jo neuroninius pagrindus, galėsime nuosekliai, mokslu pagrįstu būdu išplėsti savo supratimą apie išmaniąsias technologijas.
Ši diskusija turi mažai įtakos tam, kaip pokalbių robotai bus suvokiami plačiojoje visuomenėje. Jų kalbos žinios, žinių bazė ir socialinis žavesys greitai taps nepriekaištingi. Jie bus apdovanoti tobula atmintimi, kompetencija, nusiteikimu, samprotavimu ir intelektu. Kai kurie netgi teigia, kad šie didžiųjų technologijų kūriniai bus kitas evoliucijos žingsnis, Nietzsche's „antžmogis“. Aš žiūriu į tamsesnį požiūrį ir manau, kad tokie žmonės mūsų rūšies nykimą klaidingai laiko aušra.
Daugeliui, o gal ir daugumai žmonių vis labiau atomizuojamoje visuomenėje, atitrūkusioje nuo gamtos ir organizuotas aplink socialinius tinklus, bus emociškai sunku atsispirti technologijoms, kuriose gyvena telefonai. Ir įvairiose situacijose, įprastose ir rimtesnėse, žmonės elgsis taip, lyg pokalbių robotai turėtų sąmonę, jie tikrai gali būti įsimylėjusiam, kančia, viltis ir baimė, net jei tai ne kas kita, kaip sudėtingos paieškos lentelės. Jie taps mums nepakeičiami, galbūt net svarbesni už tikrai protingas būtybes. Nors pokalbių robotai jaučia tiek pat, kiek televizorius ar skrudintuvas – nieko.
Ką dar skaityti šia tema🤖
- 6 priežastys, kodėl neturėtumėte aklai pasitikėti dirbtiniu intelektu
- Kodėl neturėtume bijoti, kad naujos technologijos atims mūsų darbo vietas
- Technologinis išskirtinumas: ar tiesa, kad technologijos greitai taps nuo mūsų kontrolės?
- 8 mitai apie dirbtinį intelektą, kuriais tiki net programuotojai