Drones ir nepilotuojami automobiliai kaip ginklas: kodėl mes turime bijoti įsilaužėlių
Technologijos / / December 19, 2019
Niekas nepaneigs, kad dirbtinis intelektas gali įdėti mūsų gyvenimus Naujas lygis. PG yra pajėgi išspręsti daug problemų, kurios yra anapus žmogaus galia.
Tačiau daugelis mano, kad superintelligence nori mus sunaikinti, kaip SKYNET, ar pradėti vykdyti eksperimentus su žmonėmis, kaip GLADoS iš žaidimo Portal. Ironiška tai, kad padaryti dirbtinis intelektas gali tik žmonės, gera ar bloga.
Mokslininkai iš Jeilio, Oksfordo, Kembridžo, ir bendrovė patalpintą OpenAI ataskaita apie dirbtinio intelekto turinį. Ji sako, kad reali grėsmė ateina iš įsilaužėlių. Su kenksmingą kodą pagalbos, jie gali sutrikdyti automatizuotų sistemų veikimą AI kontrolės.
Mokslininkai baiminasi, kad ši technologija sukurta su gerais ketinimais, bus naudojama žalos. Pavyzdžiui, priežiūra, gali būti taikomos ne tik sugauti teroristus, bet ir šnipinėti paprastiems piliečiams. Mokslininkai taip pat jaudina komercines drones, kurie pristatyti maistą. Jie yra lengva įsiterpti ir įdėti kažką sprogmenį.
Kitas scenarijus yra destruktyvus naudojimas AI - nepilotuojami automobiliai. Pakanka pakeisti keletą eilučių kodo, ir mašina pradės ignoruoti saugos taisykles.
Mokslininkai mano, kad grėsmė gali būti skaitmeninis, fizinis ir politinis.
- Dirbtinis intelektas jau naudojamas studijuoti įvairių programų kodus pažeidžiamumą. Ateityje įsilaužėliai gali sukurti tokį botą, kuris bus apeiti jokios apsaugos.
- Su AI asmuo gali automatizuoti daugelį procesų: pavyzdžiui, kontroliuoti iš tranai spiečius, arba transporto priemonių grupė.
- Su technologijų, tokių kaip DeepFake, gali turėti įtakos politiniame gyvenime valstybės, plinta melagingą informaciją apie pasaulio lyderių internetu žinučių.
Šie bauginantis pavyzdžiai egzistuoja tik kaip hipotezę. Tyrimo autoriai nesiūlo pilną atmesti technologija. Vietoj to, jie mano, kad vyriausybės ir didelės įmonės turėtų rūpintis saugumu, o pramonė dirbtinis intelektas kūdikystėje.
Politikai turėtų išmokti technologijas ir dirbti kartu su šios srities ekspertais, efektyviai reguliuoti sukurti ir panaudoti dirbtinio intelekto.
Kūrėjai, savo ruožtu, turėtų įvertinti pavojų, kurį kelia aukštųjų technologijų, siekiant numatyti ir išvengti blogiausių pasekmių šių pasaulinių lyderių. Pranešime raginama AI kūrėjams: komanda su saugumo ekspertų kitose srityse ir sužinoti, ar galite pasinaudoti principus, kad būtų užtikrintas šių technologijų saugumą dėl dirbtinių apsaugos sumanumą.
Visas ataskaitoje aprašoma išsamiau problemą, bet tai, kad AI - galingas įrankis. Visos suinteresuotosios šalys turi išmokti naują technologiją ir įsitikinkite, kad jis nėra naudojamas nusikalstamais tikslais.