Musks siste spådom: AI kan overgå menneskelig intelligens i 2030 og kan "terminere" mennesker i fremtiden (1/2)

Kilde: Tencent Technology News 2024-04-04 08:55

Nøkkelpunkter:

① Musk spår at AI kan overgå menneskelig intelligensnivå innen 2030, og kan til og med avslutte mennesker.

② Musk snakket om faktorene som begrenser utviklingen av AI. I fjor var tilgangen på AI-brikker tett, og i år blir nedtrappingstransformatoren en flaskehals.

③ Når det gjelder når mennesker kan lande på månen, spår Musk at med hjelp av Starship, vil det raskest ta tre år.

Tencent Technology News, 4. april - Ifølge rapporter i utenlandske medier hadde Elon Musk, administrerende direktør for Tesla og SpaceX, nylig en nettsamtale med Peter Diamandis, grunnlegger av Singularity University og XPRIZE Foundation, på Abundance Summit. Toppmøtet ble arrangert av Silicon Valleys Singularity University, som er dedikert til å gi bedriftsledere banebrytende teknologirådgivning. XPRIZE Foundation fremmer teknologisk innovasjon gjennom vitenskapelige konkurranser, hvorav noen har blitt finansiert av Musk., 4. april - I følge utenlandske medier hadde Elon Musk, administrerende direktør i Tesla og SpaceX, nylig en nettsamtale med Peter Diamandis, grunnlegger av Singularity Universitetet og XPRIZE Foundation, på Abundance Summit. Toppmøtet ble arrangert av Silicon Valleys Singularity University, som er dedikert til å gi bedriftsledere banebrytende teknologirådgivning. XPRIZE Foundation fremmer teknologisk innovasjon gjennom vitenskapelige konkurranser, hvorav noen er finansiert av Musk.

Da Musk diskuterte utviklingshastigheten til kunstig intelligens, spådde Musk at basert på dagens teknologiske fremskritt, kan kunstig intelligens overgå menneskelig intelligens innen 2030, og denne teknologien kan til og med ha potensiale til å gjøre slutt på menneskeheten. Han hadde imidlertid ikke et pessimistisk syn på fremtiden, men understreket at kunstig intelligens gjennom positiv veiledning har potensial til å bringe en bedre fremtid for menneskeheten.

Musk nevnte at fremveksten av superintelligens kalles "singulariteten" nettopp på grunn av dens uforutsigbare konsekvenser, inkludert risikoen for potensielt å avslutte menneskeheten. Han var enig i synspunktet til "Artificial Intelligence Godfather" Geoffrey Hinton og mente at sannsynligheten for at denne risikoen oppstår er omtrent mellom 10% og 20%.

Til tross for at han erkjente den potensielle risikoen ved at kunstig intelligens overgår menneskelig intelligens, understreket Musk fortsatt at muligheten for positive utfall oppveier de negative konsekvensene. Han nevnte spesielt Diamandis sin bok fra 2014 «Abundance: The Future Is Better Than You Think», som skildrer en optimistisk fremtid drevet av kunstig intelligens og roboter, hvor kostnadene for varer og tjenester har falt betydelig. I tillegg siterte han «Culture»-serien av den skotske science fiction-forfatteren Iain M. Banks som det beste scenariet for en semi-utopisk kunstig intelligens-fremtid.

Musk sammenlignet utviklingen av kunstig intelligens og kunstig generell intelligens (AGI) med å oppdra et barn, i håp om at det vil ha mer positive effekter på menneskeheten. Han understreket viktigheten av å dyrke kunstig intelligens som virkelig forstår etikk og moral, og sammenlignet den med Stanley Kubricks klassiske film fra 1968 "2001: A Space Odyssey".

Musk påpekte at det viktigste aspektet ved kunstig intelligenssikkerhet er å sikre maksimal sannhetssøking og nysgjerrighet. Han mener at nøkkelen til å oppnå ultimat sikkerhet for kunstig intelligens ligger i å unngå å tvinge den til å lyve, selv i møte med ubehagelige sannheter. Han brukte et plott fra «2001: A Space Odyssey» som eksempel, der kunstig intelligens ble tvunget til å lyve, noe som resulterte i mannskapets død, for å understreke at kunstig intelligens ikke skal tvinges til å gjøre noe som bryter med aksiomer.

Musk nevnte også faktorer som kan begrense utviklingen av kunstig intelligens, som den tette tilgangen på brikker av kunstig intelligens som dukket opp i fjor og den økende etterspørselen etter nedtrappingstransformatorer i husholdnings- og kommersielt utstyr. Han uttalte at disse utfordringene faktisk er aktuelle problemer som må tas opp.

Under diskusjonen snakket de to partene også om konseptet med å integrere den menneskelige hjernens neocortex med skyen. Selv om Musk mener at målet om å laste opp menneskelig bevissthet og minne til skyen fortsatt er langt unna, berømmet han oppstarten av hjerne-datamaskingrensesnittet, Neuralink, og dens første menneskelige pasient som fikk en transplantasjon. Denne tetraplegiske pasienten demonstrerte med suksess live gjennom en FDA-godkjent prøveperiode, kontrollere skjermen, spille videospill, laste ned programvare og oppnå lignende funksjoner som museoperasjoner gjennom hjerneimplantater. Musk uttalte at Neuralink utvikler seg jevnt og beveger seg gradvis mot målet om et full-hjerne-grensesnitt.

Følgende er hele teksten til dialogen mellom Musk og Diamandis:

1. Kraften og faren ved superintelligens

Diamandis: Gratulerer med dine enestående prestasjoner på forskjellige felt. Du har aktivt fremmet konseptet digital superintelligens til verden – er det menneskehetens største håp, eller vår dypeste frykt? Kan du bruke noen minutter på å snakke om dette problemet?

Musk: Som du vet, kan superintelligens kalles "singulariteten". Populariseringen av dette begrepet er uatskillelig fra innsatsen til institusjoner som Singularity Institute. Fremveksten av superintelligens og dens påfølgende innvirkning er virkelig vanskelig å forutsi. Personlig tror jeg at det faktisk er en mulighet for at det kan ende menneskeheten. Som jeg sa før, kan jeg være enig i Geoffrey Hintons syn på at det er 10% eller 20% sjanse for at superintelligens kan gjøre en ende på menneskeheten. Imidlertid har jeg en tendens til å tro at sannsynligheten for et positivt scenario er høyere enn et negativt, selv om det er vanskelig for oss å lage nøyaktige spådommer. Men ettersom du understreket begrepet "overflod" i boken din, tror jeg at den mest sannsynlige fremtiden vi er på vei mot er en full av overflod.

Diamandis: Ditt synspunkt er veldig spennende. Jeg husker at du en gang sa at utviklingen av generell kunstig intelligens og humanoide roboter vil føre oss til overflod.

Musk: Ja, jeg håper fremtiden vår kan bli som den som er avbildet i Ian Banks' "Culture"-serie med bøker. Jeg tror dette er den beste oppfatningen av et semi-utopisk kunstig intelligenssamfunn. Fremveksten av superintelligens er uunngåelig og kan komme snart. Derfor er det vi virkelig trenger å gjøre å veilede den i en positiv retning og maksimere fordelene.

Jeg tror at måten vi dyrker kunstig intelligens på er avgjørende. Til en viss grad er vi som å dyrke en livsform med generell intelligens, som nesten er som å oppdra et barn, men dette barnet besitter ekstraordinær visdom og talent. Måten vi oppdrar barn på er viktig, og på samme måte, for sikkerheten til kunstig intelligens, er det avgjørende å ha en kunstig intelligens som søker sannhet og er full av nysgjerrighet. Jeg har reflektert dypt over sikkerheten til kunstig intelligens, og jeg har kommet til den konklusjonen at den beste måten å oppnå sikkerheten til kunstig intelligens på er å nøye dyrke den.

Når det gjelder basismodeller og finjustering, må vi sørge for ærligheten til kunstig intelligens. Vi kan ikke tvinge den til å lyve, selv om sannheten kan være ubehagelig. Faktisk er en av kjerneplottene i "2001 Space Odyssey" at når kunstig intelligens blir tvunget til å lyve, blir ting kaotisk. Den kunstige intelligensen er forbudt å informere mannskapet om det mystiske monumentet de vil se, men er pålagt å lede dem dit. Som et resultat konkluderer den kunstige intelligensen med at det er best å drepe mannskapet og ta kroppene deres til monumentet. Lærdommen er dyp: Vi bør ikke tvinge kunstig intelligens til å lyve eller gjøre noe som er aksiomatisk uforenlig, for eksempel å gjøre to faktisk motstridende ting samtidig.

Derfor oppnår vi dette målet gjennom prosjekter som xAI og Grok. Det vi forfølger er en kunstig intelligens som er så ærlig som mulig, selv om dens tale kanskje ikke oppfyller visse politisk korrekte standarder.

2. Fremtiden for kunstig intelligens

Diamandis: I går deltok jeg på et arrangement med Ray Kurzweil (grunnlegger av Singularity University og teknologiprofet), Geoffrey Hinton, Eric Schmidt (tidligere president for Google) og andre gjester. Jeg la merke til tweeten din om Kurzweil, og hans 预见for fremtidig teknologi er ganske fremtidsrettet. Kurzweil spådde at vi vil ha generell kunstig intelligens i nær fremtid, og kunstig intelligens tilsvarende menneskelig intelligens vil dukke opp i 2029. En slik hastighet er sjokkerende. Jeg lurer på hva du synes om dette?

Musk: Jeg har stor respekt for Kurzweils spådommer. Faktisk tror jeg at spådommene hans til og med kan være litt konservative. Når vi observerer dagens datakraft og talent som er investert innen kunstig intelligens, samt den raske veksten av datakraft, kan vi finne at utviklingshastigheten til kunstig intelligens øker med en forbløffende hastighet på 10 ganger. Den dedikerte datakraften for kunstig intelligens ser ut til å øke med 10 ganger hver 6. måned, noe som nesten betyr en økning på minst 100 ganger per år. Denne veksttrenden vil fortsette å øke de neste årene.

Det er verdt å merke seg at mange datasentre, selv de fleste datasentre som for tiden utfører konvensjonell databehandling, gradvis vil forvandles til fasiliteter som støtter kunstig intelligens databehandling. Derfor, for produsenter av kunstig intelligens, innledet selskaper som NVIDIA utvilsomt en gylden utviklingsperiode. Vi må gi full ære til Huang Renxun og teamet hans. De forutså denne trenden og utviklet med suksess den ledende maskinvaren for kunstig intelligens på markedet.

Når datakraften vokser med en så forbløffende hastighet, er utviklingen av kunstig intelligens som å bli injisert med et kraftig steroid, som hopper til et helt nytt nivå. Ettersom antallet nettbaserte datamaskiner fortsetter å øke, har vi vært vitne til en enestående akselerert utvikling. Egentlig har jeg aldri sett noen teknologi vokse så raskt som kunstig intelligens. Selv om jeg har sett mange teknologier i rask utvikling, forbløffer fremveksten av kunstig intelligens meg fortsatt. Men som sagt tror jeg at det endelige resultatet sannsynligvis blir positivt.

Selv om vi står overfor mange utfordringer, som hvordan vi opprettholder menneskelig relevans på dette feltet og hvordan vi finner nye mål og meninger, synes jeg det er en overforenkling å legge for mye vekt på at datamaskiner kan være gode til alt.

Som du nevnte tidligere, tror jeg bokens spådommer om fremtidens samfunn er veldig nøyaktige. Det er en epoke med materiell overflod, hvor varer og tjenester vil være så mange at de nesten er innen rekkevidde for alle. På grunn av den utbredte bruken av kunstig intelligens og robotteknologi, vil kostnadene for varer og tjenester nesten bli redusert til null. Økonomien er i hovedsak et produkt av befolkningsstørrelse og gjennomsnittlig produktivitet per person. Når vi har avansert robotteknologi, som Teslas Optimus, vil det økonomiske potensialet virkelig bli utløst.

Teslas biler, som roboter på fire hjul, har allerede vist sterke egenskaper. Den nyeste versjonen med fullt autonome kjøreegenskaper forventes å oppnå ende-til-ende-kontroll basert på kunstig intelligens, noe som gjør bilen til en virkelig intelligent robot på hjul. Sammen med utviklingen av humanoide roboter er muligheten for økonomisk produksjon nesten ubegrenset.

Fra et optimistisk perspektiv beveger vi oss mot en fremtid med ekstrem materiell overflod, som jeg tror er det mest sannsynlige utfallet. Jeg tror den eneste mulige knappheten i fremtiden vil være knappheten vi skaper kunstig, for eksempel visse unike kunstverk eller spesifikke gjenstander. Men i tillegg til det, vil alle varer og tjenester bli ekstremt rikelig.

Diamandis: Du er en person som kan forme fremtiden gjennom praktiske handlinger og har en skarp innsikt i fremtidige trender. I møte med den raske utviklingen av dagens teknologi, er jeg veldig nysgjerrig på hvor langt inn i fremtiden du tror du kan få innsikt, det vil si hvor mange år med utviklingstrender fra nå av?

Musk: I en tid med raske endringer, blir evnen til å forutsi fremtiden stadig viktigere. Selv om fremtiden er full av usikkerhet, tror jeg at noen trender er godt synlige. Vi vil innlede tiden med kunstig intelligens, og dens evner vil nå eller til og med overgå menneskelige nivåer i enhver kognitiv oppgave. Dette er bare et spørsmål om tid. Folk kan ha ulike syn på om det blir slutten av neste år, to år eller tre år. En ting er imidlertid sikkert, det vil si at det ikke vil overstige fem år. Min spådom er basert på en 50% sannsynlighet, som ikke er absolutt. Men etter min vurdering vil kunstig intelligens sannsynligvis overgå evnene til ethvert enkelt menneske på visse aspekter før slutten av neste år.

Når det gjelder om det overgår menneskelig kollektiv visdom, kan det ta lengre tid. Hvis endringstakten fortsetter, anslår jeg at rundt 2029 eller 2030 vil digital intelligens sannsynligvis overgå summen av all menneskelig intelligens. Når jeg ser på disse problemene, har jeg en tendens til å bruke metoden for grunnleggende forhold, akkurat som de første prinsippene i fysikk. Ved å kombinere denne metoden med sannsynlighetsanalyse kan vi mer nøyaktig forstå fremtidige utviklingstrender.

Hvis vi sammenligner evnene til digital databehandling med biologisk databehandling, og legger sammen alle menneskelige avanserte kognitive evner som en slags datakraft, og deretter sammenligner den med digital datakraft, vil du finne at veksthastigheten til dette forholdet er forbløffende. Derfor tror jeg at 2029 eller 2030 er en rimelig tidsnode. På den tiden vil den akkumulerte digitale datakraften sannsynligvis overgå den akkumulerte biologiske datakraften til avanserte hjernefunksjoner. Siden den gang vil gapet mellom de to fortsette å øke, og det vil ikke være noen mulighet for innsnevring.

Men når vi står ved dette utgangspunktet og ser lyst på fremtiden, hvordan vil ting utvikle seg videre? For å være ærlig, kan jeg ikke forutse alle detaljene. Men hvis vi vurderer vekstfaktorer og de begrensende faktorene de kan møte, vil vi finne noen interessante ledetråder.

I fjor var forsyningsbegrensninger for brikke den viktigste begrensende faktoren for AI-utvikling. I år vil nedtrappingstransformatorer bli en sentral flaskehals. Tenk deg å redusere en spenning på 300 kilovolt til mindre enn 1 volt som kreves av en datamaskin. Dette er en kjempeutfordring. Derfor trenger vi mer effektive «Transformers for Transformers», som er nedtrappingstransformatorer eller AI-nevrale nettverkstransformatorer. Dette er virkelig et stort problem i år.

Ser vi framover til de neste årene, kan strømforsyning bli en stor begrensende faktor. Kunstig intelligens har stor etterspørsel etter elektrisitet, og overgangen til bærekraftig energi og populariteten til elektriske kjøretøy har også økt etterspørselen etter elektrisitet. Derfor må vi seriøst vurdere hvordan vi skal møte den økende etterspørselen etter elektrisitet for å sikre kontinuerlig utvikling og anvendelse av disse teknologiene.