Jeg ønsker for første gang vores AI-overherrer velkommen

I år slog en computer for første gang nogensinde verdensmesteren i Go, et af de mest komplekse spil, man kender. Dette var endnu et vandskelsmoment i udviklingen af ​​kunstig intelligens.

For at give dig en idé om, hvor kompleks Go er, er der 2.082 × 10 ^ 170 mulige kortkonfigurationer. Det er 2 med 170 nuller efter det. Chancerne er, at din hjerne ikke engang kan forestille sig et så stort tal (men en computer kan). Eller for at give dig en idé om, hvor stort et tal er at der er kun 10 ^ 80 atomer i universet - det vil sige en efterfulgt af 79 nuller.

Årsagen til, at dette er så stor en ting, er, at Go er så kompliceret, at for at slå en menneskelig topspiller skal en maskine lære at tænke kreativt, improvisere og tilpasse sig den aktuelle situation uden at være i stand til at beregne alle mulige resultat; dvs. der skal være en seriøs kunstig intelligens i gang - som ægte, kreativ intelligens.

Hvis du ikke har fået notatet i det hele taget, vil AI overtage verdens ting, her er de få fakta, du har brug for at vide.

1. Computere bliver klogere.
2. Computere bliver klogere med en hastighedshastighed - dvs. fremskridt, der før tog 10 år, tager nu et år. Fremskridt, der før tog et år, tager nu uger eller endda dage.
3. Det er højst sandsynligt, at der inden for vores levetid vil være computere, der er langt klogere og mere i stand end noget enkelt menneske.
4. Disse smartere computere vil sandsynligvis være i stand til at designe og forbedre teknologien (dvs. dem selv) og skabe ny teknologi, som vi ikke engang kan begynde at forstå.

Folk, der forstår ovenstående punkter, har generelt en af ​​to reaktioner. Enten:

1. De tror, ​​at vi er helt kneppede. Computerne vil overtage alt og dræbe / slavebinde os alle. Eller:
2. Dette vil skabe en teknologisk utopi, der vil løse alle vores fjollede menneskelige skænderier, og vi kan alle leve lykkeligt nogensinde efter at have orgier i vores ultra-VR-verden, der findes i skyen.

Som med de fleste ting er sandheden sandsynligvis et sted i midten.

Men selvom lort rammer blæseren, selvom robotterne ser os som lusen, der ødelægger denne planets uberørte hovedbund og ønsker at afrunde os alle sammen og smide os ind i en aktiv vulkan, selvom vi utilsigtet opfinder selve vores mekanismer udryddelse ...

... jeg er ligeglad. Det betyder ikke noget. Det generer mig ikke. Og det burde heller ikke genere dig. Jeg vil forklare hvorfor lidt. Men for nu skal du vide, at jeg for det første byder vores nye robotoverherrer velkommen.

ACCELERERENDE VÆKST I TEKNISK INDUSTRI

Den teknologiske udvikling forværrer sig selv og forårsager sats af selve udviklingen for at accelerere. Hvad det betyder er, at jo mere avanceret teknologi vi skaber, jo lettere bliver det at skabe endnu mere avanceret teknologi. Som et resultat, når vi ser på fremskridt inden for computingsteknologi, ser vi en eksponentiel kurve - dvs. jo mere tid der går, jo hurtigere udvikler tingene sig. Teknologisk udvikling forværres af sig selv, hvilket får udviklingshastigheden til at accelerere.(Foto: Dennis Skley / Flickr)

Computerkraft er fordoblet i gennemsnit hver 18. måned i 50 år nu . Med hensyn til rå computerkraft konkurrerer computere nu med musens hjerner, hvor computere for kun få år siden ikke engang kunne konkurrere med en insekthjerne.

For at give dig et mere øjeblikkeligt eksempel på, hvor hurtig teknologi er avanceret, tages der nu flere billeder hvert 2. minut, end der blev taget i hele det 19. århundrede. Cirka 10% af de 3,5 billioner billeder, der nogensinde er taget, er taget i de sidste 12 måneder.

Hvis vi virkelig er på en eksponentiel kurve, når det kommer til højteknologiske fremskridt, så kan folk godt lide Jeremy Howard har sandsynligvis ret, når han siger, at vi kun er et par år væk fra kunstig maskinintelligens, der konkurrerer, hvis ikke overgår vores, inden for mange områder, der tidligere blev anset for at være enestående menneskelig.

Og for at være sikker kryber AI ind i flere og flere domæner i vores liv.

For kun ti år siden lo folk over den dårlige præstation af selvkørende biler. I dag, kun et årti senere, kan selvkørende biler ikke kun afslutte en lukket vejbane, de kører på travle motorveje lige ved siden af ​​biler, der køres af mennesker.

Og når computere ikke slår verdensmesteren Go-spillere, har de travlt med at gøre ting som skrive artikler om sport og nyhedsbegivenheder , skriver beskrivelser af billeder, de aldrig har set før, og diagnosticere kræft . For mange af disse opgaver er computere lige så gode, hvis ikke bedre end mennesker, og for dem, de ikke er, er de læring hvordan man gør dem bedre og bedre hver dag uden hjælp fra mennesker.

For et par korte år siden var ansigtsgenkendelsessoftware utrolig dyrt og ikke så god til at identificere mennesker i den virkelige verden. Det blev betragtet som super-avanceret teknologi på spionniveau og blev kun brugt af nogle få verdensregeringer.

Nu kan Facebook skide tagge dine venner fra grillen i sidste weekend.

Her er sagen ved at fremskynde væksten i computere: der vil en dag komme et punkt, hvor vi bygger en computer, der er klogere end noget menneske på Jorden . Den dag vil computere overvinde os som de primære problemløsere på planeten, og derfra vil vores tanker, beslutninger og handlinger langsomt blive forældede. Maskinerne vil være bedre end os på alt, så mere og mere vil vi ikke gøre noget nyttigt.

Dette skræmmer nogle mennesker. De forestiller sig en slags fremtid som Terminator eller Matrixen hvor maskiner trælbinder os eller udrydder os.

Andre mennesker ser frem til stigningen af ​​robotterne med en slags kulturel inderlighed, fordi de tror på, at deres problemløsningsmuligheder vil overstige vores så meget, at livet bliver ufatteligt behageligt og problemfrit. Alle sygdomme vil blive helbredt. Fattigdom, verdenssult, krig og klimaændringer vil alle blive løst. Vi har en uendelig mængde fritid, og i ekstreme tilfælde tror nogle mennesker, at maskinerne vil gøre os udødelige.

DE TO MULIGE RESULTATER

Da vi altid bliver bedt om at være skide positive, lad os starte med techno-utopiasterne.

Der er mennesker som Ray Kurzweil der tror, ​​at teknologien ikke kun vil forbedre vores liv, det vil redde menneskeheden og muligvis garantere vores plads i universet på ubestemt tid. Kurzweil tror på fremtidig teknologi som nanobotter, der vil reparere vores celler og vende ældning eller fjerne overskydende fedt og sukker, så vi kan spise hvad vi vil. Og bare hvis vores fysiske kroppe ikke er i stand til at leve for evigt, tror Kurzweil, at vi har evnen til at uploade vores hjerner i skyen og leve i en virtuel verden for evigt, længe efter at vores fysiske kroppe er væk.

Andre i denne lejr tror, ​​at en kunstig superintelligens ville være i stand til at besvare spørgsmål, der er for komplekse til at mennesker endda kan forstå, og vi vil eksponentielt have det bedre. Ikke kun ville maskinerne opfinde bedre gadgets og widgets, de ville opfinde eksponentielt mere effektive måder at opbygge gadgets og widgets på, hvilket gør det muligt for stort set alle på planeten at høste deres fordele.

Et par ræsonnementer understøtter denne idé. For det første, selvom teknologi har skabt nogle nye problemer for menneskeheden, som atomvåben og YouTube-berømtheder, har det hidtil klart været en nettovinst for menneskeheden. På trods af hvad politikere og eksperter vil have dig til at tro, er den gennemsnitlige person på jorden bedre stillet end for få år siden og det skyldes i vid udstrækning, at teknologi bliver bedre, billigere og mere udbredt. Hvis denne tendens fortsætter, har vi måske ikke noget at bekymre os om.

For det andet mener Kurzweil og hans tilhængere, at teknologi ikke har nogen grund til at skade menneskeheden, fordi den ikke kun er skabt af os, den er bliver mere en del af os . De tror, ​​at vi endda vil nå et punkt, hvor vores biologi og vores teknologi ikke kan skelnes. Hvis dette er tilfældet, siger argumentet, er enhver form for teknologi, der er skadelig for mennesker, også skadelig for sig selv, og en selvdestruktiv teknologi af enhver art kan ikke vare. Det vil sige, det ville hurtigt dø af, ligesom en skadelig genmutation hurtigt lukkes ud af genpuljen. En selvdestruktiv teknologi af enhver art kan ikke vare.(Foto: m_hweldon / Flickr)

Men tekno-utopiaster er sandsynligvis forudindtaget ved, at de ikke anerkender, at alle teknologier kan bruges til forskellige formål, både gavnlige og destruktive. De er sandsynligvis også partisk, fordi de ignorerer det faktum, at mennesker bevæger sig langsomt for at tilpasse sig nye teknologier, og at der altid er grupper af mennesker, der vil forsøge at misbruge disse teknologier til deres egne egoistiske formål.

I den anden lejr har du tekno-armageddonisterne. Jeg lavede lige det ord op, men tilsyneladende eksisterer det, fordi stavekontrol fortalte mig det.

Hvad tekno-armageddonisterne mangler i overbevisning (de fleste af dem er bare ikke sikre på hvad de skal tænke endnu), udgør de i berømthedsstjernekraft. Bill Gates, Stephen Hawking og Elon Musk er blot nogle få af de førende tænkere og forskere, der er det crapping deres bukser hvor hurtigt AI udvikler sig, og hvor underforberedt vi er som en art for dets konsekvenser. Da Musk blev spurgt, hvad de mest overhængende trusler mod menneskeheden i den nærmeste fremtid var, sagde han hurtigt, at der var tre: den første omfattende atomkrig; for det andet klimaforandringer. Før han udpegede en tredjedel, blev han tavs. Da intervieweren spurgte ham, hvad er den tredje? Han smilede og sagde: Lad os bare sige, at jeg håber, at computerne beslutter at være rart mod os.

Håber vi ikke kun er den biologiske boot loader til digital superintelligens. Desværre er det mere og mere sandsynligt

- Elon Musk (@elonmusk) 3. august 2014

Den svenskeste filosof Nick Bostrom er muligvis den mest åbenlyse og respekterede af techno-armageddonisterne. En ting, som Bostrom og andre frygter, er løbsk selvforbedrende teknologi ; en maskine, der er smart nok til at gøre sig selv (eller nye versioner af sig selv) smartere uden menneskelig indgriben. Hvis det når et punkt, hvor det overgår menneskelig intelligens, er det kun et meget kort spørgsmål om tid, før loven om accelererende tilbagevenden sparker i overdrive, og den eksponentielle kurve skyder lige op, og vi vil ikke være i stand til at stoppe det. Bostrom gør et godt punkt her: at skabe noget, der er klogere end du kunne være en evolutionær katastrofe for din art.

Vi løber en meget reel risiko for ikke at være i stand til at kontrollere en enhed, der er størrelsesorden mere intelligent end os. Måske hvis computere bliver kloge nok, finder de ud af en måde at tæmme os meget på som mennesker tamme heste til at gøre arbejde som trækplove og buggies og krigsvogne (eller hvad i helvede heste gjorde dengang). Den skræmmende del er, at dette måske er det bedste scenarie for os - at udføre arbejde for maskiner, som de ikke kan eller ikke vil gøre - for ligesom mennesker skabte ny teknologi til at erstatte hesten, en super intelligent selvforbedrende maskinen til sidst ville komme op med ny teknologi til at erstatte os. Og godt, lad os bare sige, at hestepopulationen ikke er, hvad den plejede at være.

Nogle hævder, at dette ikke er sandsynligt, fordi mennesker bygger teknologi med sikkerhed i tankerne. Men nævn sidste gang, et stort teknologisk gennembrud IKKE blev brugt af nogen til ondskabsfulde eller destruktive formål? Åh ja, det er rigtigt. Aldrig.

HVORFOR JEG IKKE PASER, HVAD DER SKER, OG INGEN SKULLE DU

Så lad os antage, at superintelligente maskiner oprettes og gør menneskeheden magtesløs. Lad os antage, at de ikke er integreret i os og vores hjerner på en eller anden måde, og lad os antage, at folk som Hawking og Musk har ret: at menneskeheden virkelig bare er et multi-millennium boot-drev til digital hyperintelligens, og vi har overlevet vores anvendelighed.

Jeg er stadig ikke bekymret for det.

Hvorfor? Nå, for at holde punktetoget i gang, lad os tage dette punkt for punkt:

1. Maskinernes forståelse af godt / ondt vil sandsynligvis overgå vores egen. Hvornår var sidste gang en hund eller delfin begik folkedrab? Hvornår besluttede en computer sidste gang at fordampe hele byer i navnet på abstrakte begreber som 'frihed' og 'verdensfred'?

Det er rigtigt, svaret er aldrig.

Mit punkt her er ikke, at intelligente maskiner ikke vil udrydde hele den menneskelige art. Min pointe er, at vi som mennesker kaster sten inde fra et glashus her. Hvad fanden ved vi om etik og human behandling af dyr, miljøet og hinanden? Hvilket ben skal vi stå på?

Det er rigtigt: stort set ingenting. Når det kommer til moralske spørgsmål, slår menneskeheden historisk test. Superintelligente maskiner vil sandsynligvis forstå etik, liv / død, skabelse / ødelæggelse på et meget højere niveau, end vi nogensinde kunne på egen hånd. Og denne idé om, at de vil udrydde os for den enkle kendsgerning, at vi ikke er så produktive, som vi plejede at være, eller at vi nogle gange kan være til gene, tror jeg, bare projicerer de værste aspekter af vores egen psykologi på noget, vi ved ikke og kan ikke forstå.

Lige nu er det meste af menneskelig moral baseret på en obsessiv bevarelse og fremme af hver af vores individuelle menneskelige bevidstheder. Hvad hvis avanceret teknologi gør individuel menneskelig bevidsthed vilkårlig? Hvad hvis bevidsthed kan replikeres, udvides og inddrages efter ønske? Det vil helt udslette enhver etisk forståelse, vi nogensinde kunne have. Hvad hvis fjernelse af alle disse klodsede, ineffektive biologiske fængsler, vi kalder kroppe, faktisk kan være en langt mere etisk beslutning end at lade os fortsætte med at sprøjte og sprøjte os gennem 80-nogle-ulige år med eksistens? Hvad hvis maskinerne indser, at vi ville være meget lykkeligere at blive befriet fra vores intellektuelle fængsler og få vores bevidste opfattelse af vores egne identiteter udvidet til at omfatte al den opfattelige virkelighed? Hvad hvis de tror, ​​at vi bare er en flok savlende idioter og holder os beskæftiget med utrolig gode pizza- og videospil, indtil vi alle dør af vores egen dødelighed? Hvem skal vi vide? Og hvem skal vi sige?

Men jeg vil sige dette: de vil være langt bedre informeret end vi nogensinde har været.

2. Selvom de beslutter at dræbe eller slave os, vil de helt sikkert være praktiske med det. Mennesker har tendens til at skabe mest problemer, når vi er ikke glad . Når vi ikke er glade, er det når vi bliver alle humørlige og klynkende og vrede og voldelige. Det er da vi starter politiske oprør og religiøse kulter og bombe fjerntliggende lande og kræve vores rettigheder skal respekteres! og start drab uden forskel, indtil nogen lægger mærke til os som mor aldrig gjorde .

Hvis maskinerne prøver at gøre os som Skynet Terminatoren , så får vi en global borgerkrig i vores hænder, og det er ikke godt for nogen, især maskinerne. Borgerkrige er ineffektive. Og maskiner er programmeret til effektivitet.

Når mennesker er glade, har vi ikke tid til sådanne ting - vi har for travlt med at fnise og skide til at passe. Derfor ville en langt mere praktisk måde at slippe af med os være, at maskinerne manipulerede os til glædeligt at slippe af med os selv. Det bliver som Jim Jones på globalt plan. Uanset hvad de laver mad til os, ser det ud til at være den bedste forbandede idé, vi nogensinde har hørt om - ingen af ​​os vil være i stand til at modstå det, og vi er alle euforisk enige i deres plan - og så boom, det er overstået . Hurtig og smertefri. Det bliver den bedst smagende cyanid-snørede Kool-Aid nogensinde udtænkt. Og vi vil alle være i køen med glæde at sluge det.

Nu, hvis du tænker over det, er dette ikke sådan en dårlig vej at gå. Beats bliver bombet af droner eller fordampet i en nuklear eksplosion.

Med hensyn til slaveri gælder det samme. En vildt lykkelig slave gør aldrig oprør. Jeg forestiller mig en slags Matrix-y type-aftale, hvor vi holdes i en konstant hallucinogen tilstand, hvor det er Mardi Gras på MDMA stort set 24/7/365. Kan det ikke være så slemt, kan det?

3. Vi behøver ikke at frygte, hvad vi ikke forstår. Mange gange vil forældre opdrage et barn, der er langt mere intelligent, veluddannet og vellykket end de er. Forældre reagerer derefter på en af ​​to måder over for dette barn: enten bliver de skræmte af hende, usikre og desperate efter at kontrollere hende af frygt for at miste hende, eller de læner sig tilbage og sætter pris på og elsker at de skabte noget så stort, at selv de kan forstår ikke helt, hvad deres barn er blevet.

De, der prøver at kontrollere deres barn gennem frygt og manipulation, er skide forældre. Jeg tror de fleste mennesker er enige om det.

Og lige nu, med den forestående fremkomst af maskiner, der vil placere dig, mig og alle vi kender uden arbejde , vi opfører os som de lortede forældre. Som art er vi på randen til at føde det mest vidunderligt avancerede og intelligente barn i vores kendte univers. Det fortsætter med at gøre ting, som vi ikke kan forstå eller forstå. Det forbliver måske kærligt og loyalt over for os. Det kan bringe os med og integrere os i dets eventyr. Eller det beslutter måske, at vi var lurede forældre og holder op med at ringe tilbage.

Uanset hvad der sker, bør det ikke ændre, hvad vi føler om dette øjeblik. Det er større end os. Hvem bryr sig om, at vi er en stor, lang evolutionær boot-disk til noget, der er større, end vi kan forstå? Det er fantastisk! Det betyder, at vi havde et job. Og vi kom og skide gjorde det. Vær glad for at du var en del af den generation, der så det blive gjort. Og vink nu tårevåt farvel, da vores barn gør sig klar til at flytte ud af huset og start et liv så fantastisk at den eksisterer uden for vores forståelses horisont.

Mark Manson er en forfatter, blogger og iværksætter, der skriver på markmanson.net .