De zeci de ani, Silicon Valley a anticipat un moment în care o nouă tehnologie va veni și va schimba totul. Va uni oamenii și mașinile, poate în bine, dar poate în rău, și va împărți istoria în două. Inainte de și spate.
Numele acestui reper: Singularitate.
Se poate întâmpla în mai multe moduri. O posibilitate este ca oamenii să adauge puterea de procesare a computerului propriei inteligențe înnăscute și să devină versiuni supraalimentate ale lor. Sau poate devine atât de complex încât computerele pot gândi cu adevărat, formând un creier global.
În ambele cazuri, schimbarea rezultată va fi bruscă, exponențială și ireversibilă. Mașinile supraumane, conștiente de sine și-ar putea proiecta propriile îmbunătățiri mai repede decât orice grup de oameni de știință, declanșând o explozie de inteligență. Secole de progres se pot întâmpla în ani sau chiar luni. Singularitatea este un pachinko pentru viitor.
inteligenţă artificială Perturbează tehnologia, afacerile și politica mai mult decât își poate aminti orice amintire recentă. Ascultă afirmațiile extravagante și revoltătoare care emană din Silicon Valley și se pare că paradisul virtual promis de mult se află în sfârșit la orizont.
CEO-ul Google, de obicei rezervat, Sundar Pichai, spune asta despre inteligența artificială: „Mai adânc decât focul sau electricitatea” Sau orice am făcut în trecut. ” Reid HoffmanInvestitorul miliardar spune: „Puterea de a aduce schimbări pozitive în lume este pe cale să fie sporită ca niciodată”.și co-fondatorul Microsoft Bill Gates Declarați AI „Va schimba modul în care oamenii lucrează, învață, călătoresc, primesc îngrijire medicală și comunică între ei.”
Inteligența artificială este cea mai nouă lansare de produse din Silicon Valley: transcendența la cerere.
Cu toate acestea, există evoluții întunecate. Este ca și cum o companie de tehnologie a introdus mașini cu conducere autonomă cu avertismentul că ar putea exploda chiar înainte de a ajunge la Walmart.
„Apariția inteligenței generale artificiale se numește singularitate, deoarece este foarte dificil de prezis ce se va întâmpla după aceea”, a spus Elon Musk, care conduce Twitter și Tesla. a spus pentru CNBC luna trecută. El crede că va exista o „eră a prosperității”, dar a spus că „ar putea” „distruge umanitatea”.
Cele mai mari majorete ale AI din comunitatea tehnologică sunt Sam Altman, CEO al OpenAI, startup-ul care a stârnit nebunia actuală cu chatbot-ul său ChatGPT. El a spus că AI este „împuternicire economică și mulți oameni se îmbogățesc am mai văzut. ”
Dar Musk mai spune: Critic AI și fondator al companiei Ar putea fi corect să dezvolti o interfață creier-calculator.
Apocalipsa este un teritoriu familiar și chiar iubit pentru Silicon Valley. Cu câțiva ani în urmă, se părea că fiecare director de tehnologie avea la îndemână un buncăr apocalips complet aprovizionat. În 2016, Altman a spus că acumulează „arme, aur, iodură de potasiu, antibiotice, baterii, apă, măști de gaze ale Forțelor de Apărare Israeliene și întinderi vaste de teren Big Sur la care se poate ajunge cu avionul”. Pandemia de coronavirus le-a dat pregătitorilor din tehnologie o oarecare legitimitate pentru o vreme.
Acum se pregătesc pentru singularitate.
„Le place să creadă că sunt oameni înțelepți care fac comentarii înțelepte, dar sună mai mult ca un călugăr de 1000 de ani care vorbește despre răpire”, a spus el.iluzia inteligențeiConsiderare critică a inteligenței artificiale „Este cam înfricoșător”, a spus el.
Originea transcendenței
Rădăcinile intelectuale ale singularității sunt John von NeumannUn informatician de pionier, el a vorbit în anii 1950 despre modul în care „accelerarea progresului tehnologic” a dus la „o singularitate esențială în istoria omenirii”.
Irving John Goode a fost un matematician englez care a contribuit la descifrare. Dispozitiv german Enigma Activ la Bletchley Park în timpul celui de-al Doilea Război Mondial, a fost și un avocat influent. „Supraviețuirea omenirii depinde de construcția timpurie a mașinilor superinteligente”. în 1964 a scris. Directorul Stanley Kubrick l-a consultat pe domnul Good despre HAL, computerul care a trecut din bine în rău în 2001: O odiseea spațiului. Acesta este un exemplu timpuriu al graniței poroase dintre informatică și science fiction.
Hans Moravec, profesor adjunct la Institutul de Robotică de la Universitatea Carnegie Mellon, a considerat că inteligența artificială va aduce beneficii atât morților, cât și celor vii. Morții vor fi recuperați în singularitate. „Vom avea ocazia să recreăm trecutul și să interacționăm cu el într-un mod realist și direct”, a scris el în Mind Children: The Future of Robots and Human Intelligence.
În ultimii ani, antreprenori și inventatori Ray Kurzweil Cel mai mare campion al Singularității. Kurzweil a scris The Age of Intelligent Machines în 1990, The Singularity Is Near în 2005, iar în prezent scrie The Singularity Is Approaching.
El se așteaptă ca computerele să devină omniprezente până la sfârșitul deceniului. Testul Turing și imposibil de distins de oameni. Cincisprezece ani mai târziu, calculează el, va veni adevărata transcendență, momentul în care „calculul devine parte din noi, iar inteligența noastră crește de un milion de ori”.
Kurzweil va avea 97 de ani până atunci. Cu ajutorul vitaminelor și suplimentelor, el plănuiește să trăiască până la 97 de ani.
Pentru unii critici ai Singularității, aceasta este o încercare dubioasă din punct de vedere intelectual de a reproduce sistemele de credințe ale religiilor organizate în domeniul software-ului.
„Toți își doresc viața veșnică fără inconvenientul de a fi nevoiți să creadă în Dumnezeu”, a spus Rodney Brooks, fost director al Laboratorului de Informatică și Inteligență Artificială al Institutului de Tehnologie din Massachusetts.
Inovațiile care influențează dezbaterea de astăzi despre Singularitate sunt: model de limbaj la scară largă, tipul de sistem AI care alimentează chatboții. Începeți o conversație cu unul dintre aceste LLM și veți obține răspunsuri rapide, consecvente și, adesea, cu un nivel corect de iluminare.
„Puneți o întrebare, iar aceste modele interpretează ce înseamnă, determină ce înseamnă răspunsul și îl traduc înapoi în cuvinte. Aceasta este definiția inteligenței generale. Dacă nu, ce este?” spune Jerry Kaplan, antreprenor cu inteligență artificială de lungă durată și autorul cărții Artificial Intelligence: What Everyone Needs to Know.
Kaplan a spus că este sceptic cu privire la minunile mult vestite, cum ar fi mașinile cu conducere autonomă și criptomonede. El a spus că a abordat recentul boom AI cu aceleași îndoieli și a fost convins.
„Dacă aceasta nu este „Singularitatea”, cu siguranță este Singularitatea. Este un pas tehnologic transformator care va accelera în linii mari arta, știința și cunoașterea umană în ansamblu și va cauza unele probleme”, a spus el.
Criticii spun că până și realizările impresionante ale LLM sunt cu mult sub enorma inteligență globală promisă de mult timp de Singularity. Una dintre problemele separării cu precizie a hype-ului de realitate este că motorul care conduce această tehnologie este ascuns. OpenAI a început ca o organizație nonprofit, folosind cod sursă deschisă, dar acum este o întreprindere cu scop profit, despre care criticii susțin că este de fapt o cutie neagră. Google și Microsoft oferă, de asemenea, vizibilitate limitată.
O mulțime de cercetări AI sunt efectuate de companii, care au beneficiat foarte mult de rezultate. Cercetătorii Microsoft care au investit 13 miliarde de dolari în OpenAI au spus: Lucrare publicată în aprilie Versiunea provizorie a Cel mai recent model OpenAI „Prezentă multe caracteristici ale inteligenței”, cum ar fi „abstracția, înțelegerea, viziunea, codificarea” și „înțelegerea motivațiilor și emoțiilor umane”.
Rylan Schaefer, doctorand în informatică la Universitatea Stanford, a spus că unii cercetători AI s-au întrebat cum aceste modele de limbaj la scară largă au „capacități emergente” sau explicații care nu erau evidente în societate. El a spus că a făcut o descriere inexactă. dacă ar putea demonstra capacitatea pe care nu o are. varianta mica.
Cu colegii de la Universitatea Stanford, Bland Miranda și Sanmi Coeljo, Schaefer a explorat această întrebare. lucrare de cercetare Publicat luna trecută, a concluzionat că proprietatea în curs de dezvoltare a fost un „miraj” cauzat de erori de măsurare. De fapt, cercetătorii văd ceea ce vor să vadă.
viata vesnica, profit vesnic
La Washington, Londra și Bruxelles, parlamentarii vorbesc despre oportunitățile și provocările AI și încep să vorbească despre reglementare. Altman este în turneu, încercând să evite criticile timpurii și să promoveze OpenAI ca păstorul Singularității.
Aceasta include clemența de reglementare, deși nu este clar exact cum va arăta. O viziune comună în Silicon Valley este că guvernul este prea lent și prost pentru a supraveghea dezvoltarea tehnologică rapidă.
Fostul CEO Google, Eric Schmidt, a spus: „Nimeni din guvern nu poate înțelege bine”. A spus El a argumentat pentru autoreglementarea inteligenței artificiale într-un interviu pentru Meet the Press luna trecută. „Dar industria poate să înțeleagă bine.”
AI, ca și singularitatea, se spune deja că este ireversibilă. „Este nevoie de ceva asemănător unui sistem global de supraveghere pentru a-l opri, dar nici măcar acesta nu este garantat să funcționeze”, au spus Altman și unii dintre colegii săi. am scris luna trecuta. Ei au adăugat că, chiar dacă Silicon Valley nu va reuși, alte companii o vor avea.
Nu există prea multe discuții despre profitul uriaș pe care îl puteți obține încărcând în lume. În ciuda zgomotului că AI este o mașină care creează bogăție nelimitată, majoritatea oamenilor care se îmbogățesc sunt deja bogați.
Capitalizarea bursieră a Microsoft a crescut cu 5 trilioane de dolari în acest an. Nvidia, producătorul de cipuri care rulează sisteme AI, a devenit recent una dintre cele mai valoroase companii publice din SUA, spunând că cererea pentru aceste cipuri este în creștere. s-a înălțat.
„AI este tehnologia pe care lumea și-a dorit-o întotdeauna”, a scris Altman pe Twitter.
Este cu siguranță tehnologia pe care industria tehnologică și-a dorit-o întotdeauna și vine în cel mai bun moment posibil.Anul trecut, Silicon Valley fi zguduit de o concediere și creșterea ratelor dobânzilor. Ultimul boom, moneda virtuală, a fost prins într-o înșelătorie, dezamăgire.
Charles Stross, coautor al cărții The Rapture of the Nerds, un roman despre Singularitate cu un strop de comedie, și Accelerando, o privire mai serioasă asupra a ceea ce poate aduce viața în curând, spune: „Banii urmează-mă”, a spus el. deveni așa.
„Adevărata promisiune aici este că companiile vor putea înlocui multe dintre subunitățile de procesare a informațiilor defecte, scumpe, lente, alimentate de oameni cu biți de software, accelerând astfel procesarea și înseamnă că putem reduce cheltuielile generale”, a spus el.
Singularitatea a fost mult timp imaginată ca un eveniment cosmic literal și uimitor. Și mai poate fi.
Dar poate apărea, în primul rând, ca un instrument de reducere a numărului de angajați în companiile americane, datorită obsesiei de astăzi pentru câștiguri din Silicon Valley. Cerurile vă așteaptă atunci când faceți tot ce vă stă în putere pentru a vă crește capitalizarea de piață cu trilioane de dolari.