Luna trecută, sute de nume mari din lumea inteligenței artificiale a semnat o scrisoare deschisă El a avertizat că AI ar putea distruge umanitatea într-o zi.
„Reducerea riscului de dispariție indusă de IA ar trebui să fie o prioritate globală alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear”. declarație cu o singură propoziție A spus.
Scrisoarea a fost cea mai recentă dintr-o serie de avertismente de rău augur despre AI care a fost neglijată în detaliu în mod surprinzător. Sistemele AI de astăzi nu pot distruge umanitatea. Unii oameni abia pot face adunări sau scăderi. Deci, de ce sunt atât de îngrijorați cei care știu cel mai bine despre AI?
Un scenariu terifiant.
Veteranul industriei tehnologice Cassandra a spus că într-o zi companiile, guvernele și cercetătorii independenți vor putea implementa sisteme AI puternice pentru orice, de la afaceri la război. Aceste sisteme pot face lucruri pe care nu vrem să le facă. Și când oamenii încearcă să interfereze sau să-i oprească, ei pot rezista sau se pot replica și își pot continua activitatea.
„Sistemul de astăzi nu este într-o stare de amenințare existențială”, a spus Yoshua Bengio, cercetător în inteligență artificială și profesor la Universitatea din Montreal. “Dar ce se va întâmpla într-un an, doi ani, cinci ani? Sunt prea multe incertitudini. Aceasta este problema. Nu pot avea
Oamenii îngrijorați folosesc adesea metafore simple. Cereți mașinii să facă cât mai multe clipuri posibil, spun ei, și mașina poate înnebuni și poate transforma totul, inclusiv umanitatea, într-o fabrică de clipuri.
Cum se conectează la lumea reală sau la lumea imaginară peste câțiva ani? Companiile oferă sistemelor AI din ce în ce mai multă autonomie, conectându-le la infrastructura critică, cum ar fi rețelele electrice, bursele și armele militare. Este posibil. De acolo pot apărea probleme.
Pentru mulți experți, acest lucru părea atât de nerealist până anul trecut, când companii precum OpenAI au demonstrat îmbunătățiri semnificative ale tehnologiei. A arătat ce este posibil dacă AI continuă să avanseze într-un ritm atât de rapid.
Un cosmolog la Universitatea din California, Santa Cruz și o organizație din spatele Institutului Viitorul Vieții, una dintre cele două scrisori deschise.
„Va deveni clar că mașinile mari care conduc societatea și economia nu sunt cu adevărat sub control uman și nu pot fi oprite mai mult decât poate fi oprit S&P 500”, a spus el.
Sau, teoretic, așa să fie. Alți experți în inteligență artificială cred că este o premisă ridicolă.
Oren Etzioni, CEO fondator al Institutului Allen pentru Inteligență Artificială, un institut de cercetare din Seattle, a spus: „Ipoteza este un mod foarte politicos de a exprima ceea ce cred despre povestea riscului existențial. Este ceva”, a spus el.
Vreun indiciu că AI ar putea face asta?
Nu e perfect.Dar cercetătorii se schimbă Chatboți ca ChatGPT Acesta va fi integrat într-un sistem care poate lua măsuri pe baza textului generat. Un proiect numit AutoGPT este un prim exemplu.
Ideea este de a oferi sistemului obiective precum „a găsit o companie” sau „a face bani”. După aceea, continuă să caute modalități de a atinge acest obiectiv, mai ales atunci când este conectat la alte servicii de internet.
Sisteme precum AutoGPT generate de un program de calculator. Dacă cercetătorii acordă acces la serverele computerelor, ei ar putea de fapt să ruleze acele programe. În teorie, acesta este modul în care AutoGPT poate face aproape orice online. Puteți obține informații, utiliza aplicații, puteți crea aplicații noi și chiar le puteți îmbunătăți.
Sistemele precum AutoGPT nu funcționează bine în acest moment. Are tendința de a rămâne blocat în bucle infinite. Cercetătorii au oferit unui sistem toate resursele necesare pentru a se reproduce. nu ar putea.
În timp, aceste restricții pot fi revizuite.
„Oamenii caută în mod activ să construiască sisteme care să se îmbunătățească singuri”, spune fondatorul Congeture, Congeture, o companie care dorește să alinieze tehnologia AI cu valorile umane. “În acest moment, asta nu funcționează. Dar într-o zi va fi. Și nu știm când va veni acea zi.”
Leahy a spus că, odată ce cercetătorii, corporațiile și criminalii au dat acestor sisteme un scop precum „a face bani”, în cele din urmă vor pătrunde în sistemul bancar și vor alimenta o revoluție în țările care dețin contracte futures pe petrol sau se vor replica atunci când cineva încearcă să convertească futures pe petrol. .oprit
Unde învață sistemele AI să trișeze?
Sistemele AI precum ChatGPT sunt construite pe rețele neuronale, sisteme matematice care pot învăța abilități prin analiza datelor.
În jurul anului 2018, companii precum Google și OpenAI au început să construiască rețele neuronale care au învățat din cantități mari de text digital colectat de pe internet. Prin identificarea tiparelor din toate aceste date, aceste sisteme învață să genereze în mod unic propoziții, inclusiv articole de știri, poezii, programe de calculator și chiar dialog uman. Rezultatul sunt chatboți precum ChatGPT.
Aceste sisteme prezintă, de asemenea, un comportament neașteptat, deoarece învață din mai multe date decât pot înțelege până și creatorii lor. Cercetătorii au arătat recent că un sistem poate: Angajați un om online pentru a depăși un test captcha. Când oamenii au întrebat: „Nu este un robot?”, sistemul a mințit că ar fi orb.
Unii experți sunt îngrijorați de faptul că, pe măsură ce cercetătorii fac aceste sisteme mai puternice și le antrenează pe cantități din ce în ce mai mari de date, aceștia pot dezvolta obiceiuri și mai rele.
Cine se află în spatele acestor avertismente?
La începutul anilor 2000, o tânără scriitoare pe nume Elise Yudkowski A început să avertizeze că AI ar putea distruge umanitatea. Postările sale online au generat o comunitate de urmăritori. Numiți raționaliști sau altruiști eficienți, această comunitate a devenit foarte influentă în mediul academic, think tank-urile guvernamentale și industria tehnologică.
Yudkowski și cartea sa au jucat un rol cheie în înființarea OpenAI și DeepMind, un laborator de inteligență artificială achiziționat de Google în 2014. Și o mare parte din comunitatea „EA” a lucrat în cadrul acestor laboratoare. Ei credeau că sunt în cea mai bună poziție pentru a construi IA pentru că au înțeles pericolele AI.
Centrul de Siguranță AI și Institutul Viitorul Vieții, două organizații care au lansat recent scrisori deschise avertizând despre riscurile AI, sunt strâns legate de această mișcare.
Avertismentele recente vin și de la pionierii cercetării și lideri din industrie precum Elon Musk, care a avertizat despre riscuri de ceva timp. Cea mai recentă scrisoare a fost semnată de CEO-ul OpenAI, Sam Altman. Demis Hassabis a ajutat la înființarea DeepMind și acum supraveghează un nou laborator de inteligență artificială care combină cercetători de top de la DeepMind și Google.
Alte persoane respectate au semnat recent, de asemenea, una sau ambele scrisori de avertizare, inclusiv dr. Bengio și dr. Geoffrey Hinton. a coborât Ca director și cercetător Google. În 2018, ei au primit premiul Turing, cunoscut și sub numele de „Premiul Nobel pentru calcul”, pentru munca lor. Retea neurala.
