Elon Musk sanoo, että AI voisi tuomita ihmisen sivilisaation. Zuckerberg on eri mieltä. Kuka on oikeassa?

Anonim

SAN FRANCISCO - Tekoäly. Koneen oppiminen. Osaamisen suunnittelu.

Soita sitä, mitä haluat, mutta AI: n nimillä oli tech-maailma ainutlaatuisesti jaettuina vuonna 2017, ja uusi vuosi ei todennäköisesti tuo nopeita ratkaisuja.

Jos unohdit sen, tulinen keskustelu AI: n mahdollisesta vaikutuksesta yhteiskuntaan sisältyi kahden rohkean kasvot -nimisen Silicon Valley -nimen nimiin.

Tesla ja SpaceX: n toimitusjohtaja Elon Musk kertoivat kansalliskuvernöörien liitolle tänä syksynä, että hänen altistuminen AI-tekniikalle viittaa siihen, että se aiheuttaa "olennaisen riskin ihmisen sivilisaation olemassaololle".

Facebookin perustaja Mark Zuckerberg kävi ilmiöpäivän puhuessa - joka sisälsi kosmologin Stephen Hawkingin näkemyksen, että AI voisi osoittautua "sivilisaation historian pahimmaksi tapahtumaksi" - videopostitus, joka kutsui tällaista negatiivista puhetta "melko vastuuttomaksi".

Sanojen sota hurskasi AI jatkoi jokapäiväistä elämäämme uuteen kasvojentunnistusohjelmistoon Applen iPhonessa X: hen yhä enemmän tajuisiin vastauksiin Siri, Alexa ja Cortana.

Kun kuluttajat saavat usein henkilökohtaista tietoa pilvipohjaisiin aivoihin, jotka yhdistävät eksponentiaalisesti, Facebook ja Google ovat valmiita saamaan ennennäkemättömän näkemyksen elämästämme ja hyödyntämään sitä.

SpaceX: n perustaja Elon Musk on usein varoittanut AI: n riskeistä.

Joten mikä se on - siirrymmekö loistavaan teknologiaan perustuvaan tulevaisuuteen, jossa monet menialla tehtävät tehtävät käsittelevät miellyttävät koneet tai sellaiset, joissa robotit ovat ottaneet meidät vaivattomasti alistetuksi ihmiseksi?

päätyi useisiin keinotekoisten älykkäiden sidosryhmien puoleen saadakseen näkemyksensä AI: stä, ystävästä tai vihollisesta.

Johtopäätös: AI: n potentiaalisia positiivisia vaikutuksia koskeva jännitys näyttää toistaiseksi riittävässä määrin heikentyneenä, kun tiedetään, että tutkijoiden on pysyttävä valppaina siitä, miten tällainen tekniikka kehitetään, jotta varmistetaan harhojen poistuminen ja valvonta säilytetään.

AI-vartijaryhmät nousevat

”Innovaatiot ovat yleensä vapauttaneet ihmiset tuottavammiksi”, sanoo kongressijohtaja John Delaney, D-Md. Viime syksynä Delaney lanseerasi yhdessä kollegansa Pete Olsonin, R-Texasin kanssa AI Caucuksen, jonka tehtävänä on tiedottaa päättäjille AI: n teknologisista, taloudellisista ja sosiaalisista vaikutuksista.

Delaney sanoo, että on olemassa "miljoona keskustelua, jotka voivat tapahtua nyt ja Terminatorin välillä", viitaten apokalyptiseen kalvoon, jossa koneet yrittävät tuhota ihmisiä.

Terminatorin innoittama veistos on esillä "Teräksisten kuvien gallerian" näyttelyssä Krakovan Puolassa sijaitsevan Municipal Engineeringin museossa.

Vaikka hän sanoo olevansa erityisen huolissaan työntekijöiden uudelleenkoulutuksesta AI-rivejä tulevaisuutta varten, ”en määrätä tuomiopäivän skenaariosta.”

Itse asiassa muodostuu yhä useampia ryhmiä, jotka pyrkivät varmistamaan, että synkkä tulevaisuus ei koskaan tule.

Näitä ovat AI Now, jota johtaa New Yorkin yliopiston tutkija Kate Crawford, joka varoitti viime vuonna SXSW: n osallistujia fasistisen AI: n mahdollisesta noususta. Mukana on myös OpenAI, Muskin tukema tutkimusvarustus, ja kumppanuus AI: ssä, jonka jäseniä ovat Google, Facebook, Apple, Amazon, IBM ja Microsoft.

Apple, Facebook ja Amazon kieltäytyivät antamasta toimeenpanijaa puhumaan ennätyksestä AI: n etuja ja haittoja vastaan. Jokainen yritys työllistää AI: n valvonnasta vastaavaa henkilöstöä.

Microsoft Researchin johtaja Eric Horvitz sanoo, että yhtiö on viime kesänä luonut sisäisen arviointilautakunnan nimeltä Aether - AI ja insinööri- ja tutkimusetiikka, jonka tehtävänä on seurata tarkasti edistymistä paitsi koneen oppimisessa myös aloilla, kuten esineiden tunnistamisessa ja tunteissa havaitseminen.

”On varmasti suurta osuutta siitä, miten AI vaikuttaa liikenteeseen, terveydenhuoltoon ja muihin merkittäviin sektoreihin, ja on oltava kanavia epäonnistumisen tarkistamiseksi”, Horvitz sanoo.

Facebookin toimitusjohtaja Mark Zuckerberg.

Eräs huolenaihe on kuvien ottaminen, varsinkin kun se koskee kasvojen tunnistamista. "Vääristymät voivat elää tässä tiedonkeruussa, joka edustaa yhteiskunnan pahinta", Horvitz sanoo.

Toinen organisaatio, joka pyrkii ratkaisemaan AI: n pimeän puolen, on äskettäin perustettu DeepMindin etiikan ja yhteiskunnan tutkimusryhmä, jonka tavoitteena on julkaista papereita, jotka keskittyvät joihinkin AI: n aiheuttamiin kaikkein mutkikkaimpiin kysymyksiin. Google osti Lontoossa sijaitsevan DeepMindin vuonna 2014 oman AI-työnsä laajentamiseksi.

Yksi ryhmän tärkeimmistä jäsenistä on Nick Bostrom, Ruotsin syntynyt Oxfordin yliopiston professori, jonka 2014 kirja, Superintelligence: Paths, Dangers, Strategies, aiheutti ensin Muskin varoituksen AI: n vaaroista.

"Mielestäni AI: n kehityksestä on, jos se on hyödyllistä, käytä sitä, mutta ehkä myös olla varma, että osallistutte keskusteluihin siitä, missä tämä kaikki menee", Bostrom kertoo, että maailma "ei tarvitse enempää hälytysääntä", mutta lisää valintaikkunaa.

”Olemme kaikki täynnä toiveita ja pelkoja AI: n pitkän aikavälin potentiaalista”, hän sanoo. "Meidän täytyy kanavoida tämä rakentavalla tavalla."

Woz: AI: lta skeptinen fanille

Applen perustaja Steve Wozniak löysi alun perin AI-varovaisesta leiristä. Hän, kuten Musk ja Hawking, oli huolissaan siitä, että inhimillistä tietoisuutta käyttävät koneet saattavat lopulta aiheuttaa riskin homo sapiensille.

Mutta sitten hän muutti ajattelunsa, perustuen pitkälti siihen käsitykseen, että ihmiset ovat edelleen hämmentyneitä siitä, miten aivot toimivat taiansa, mikä puolestaan ​​tarkoittaa, että tiedemiesten olisi vaikeaa luoda koneita, jotka voisivat ajatella meitä.

Apple perusti Steve Wozniakin liikkeelle kameran ennen mediatapahtumaa, jossa Applen odotetaan ilmoittavan uuden iPhoneen ja muihin tuotteisiin Cupertinossa, Kaliforniassa 12. syyskuuta 2017.

"Meillä saattaa olla koneita, jotka simuloivat älykkyyttä, mutta se eroaa siitä, miten aivot toimivat todella, " kertoo Wozniak. ”Jos emme ymmärrä sellaisia ​​asioita, joissa muistit tallennetaan, mikä on huolestuttava siitä, kun Singularity tulee menemään ja ajamaan kaiken?”

Ah, kyllä, Singularity. Onnea hän toi sen. Tämä hyvin sci-fi-kuulostava termi viittaa siihen hetkeen, jolloin koneet tulevat niin älykkäiksi, että he pystyvät ajamaan ja päivittämään itseään, mikä johtaa siihen, että ihminen ei pysty kiinni saamaan teknistä hevosta.

Jotkut teknikot ovat innokkaita koneen johtamasta hetkestä. Viime toukokuussa entinen Google-itseohjautuva auton insinööri Anthony Levandowski jätti paperit sisäisen tulopalvelun kanssa uuden uskonnon perustamiseksi, nimeltään Way of the Future. Sen tehtävänä on edistää tietokonelaitteistolla ja -ohjelmistolla kehitettyä, "tekoälyyn perustuvan jumaluuden toteutumista, hyväksymistä ja palvoa".

Levandowski - joka on keskellä kiistanalaista oikeusjuttua Googlen ja Uberin välillä, jota Levandowski myi omalla autolla varustetun Otto-yhtiön, ennen kuin hän syytti Googlelta varastamasta omaa teknologiaa, kertoi Wired- lehden viime syksynä, että hänen uusi kirkko oli vain looginen vastaus väistämättömyyteen.

Anthony Levandowski, joka näytetään täällä varsinaisessa autokorjaamo Oton omistamassa autotalossa, jonka Uber osti vuonna 2016.

”Se ei ole jumala siinä mielessä, että se tekee salaman tai aiheuttaa hurrikaaneja”, hän sanoi. "Mutta jos on jotain miljardia kertaa älykkäämpiä kuin älykkäin ihminen, mitä muuta sinä kutsut?"

Entä ehkä, hermostunut?

Useimmat kuluttajat ovat edelleen varovaisia

Lokakuussa julkaistun Pew Research Center -tutkimuksen tulokset osoittivat, että puolet ja kolme neljäsosaa vastaajista piti itseään "huolissaan", kun kysyttiin AI: n vaikutuksesta ihmisten työpaikkojen tekemiseen (72%), arvioimalla työnhakijoita (67%) autojen kuljettaminen (54%) ja vanhusten hoito (47%).

SurveyMonkey-kyselyssä AI: sta tehtiin myös huolenaiheita, ja 73% vastaajista sanoi, että mieluummin AI olisi rajoitettu uudempien teknologioiden käyttöönotossa niin, että siitä ei tule uhkaa ihmisille.

Samaan aikaan 43% sanoi, että älykkäämpiä kuin ihmisiä AI tekisi "enemmän haittaa kuin hyötyä", kun taas 38% sanoi, että se johtaisi "yhtä paljon haittaa ja hyvää".

Ehkä 68% sanoi, että todellinen uhka on edelleen "ihmisen älykkyyttä", mikä merkitsee sitä, että haitallisiin tarkoituksiin hyödynnetty tekniikka voi tehdä eniten haittaa.

Yhdysvaltain tutkijoilla ja tiedemiehillä ei ole muuta vaihtoehtoa kuin edistää AI-kehitystä, koska toimettomuus ei ole vaihtoehto, kertoo Allenin AI-instituutin toimitusjohtaja Oren Etzioni, jonka Microsoftin perustaja Paul Allen aloitti.

IPhone X käyttää AI offline-tilassa käyttäjän yksityisyyden suojaamiseksi.

”AI saattaa tuntua uhkaavalta, mutta taukopainikkeen lyöminen ei ole realistista”, hän sanoo. ”Kiina sanoo haluavansa olla AI-johtaja, ja yksityisyyden suoja ei häiritse heitä. (Venäjän johtaja Vladimir) Putin on sanonut saman asian. Niinpä globaali kilpailu on päällä.

Koska teknologiayritykset jyrisivät 2018: een silmällä kohti tuotetarjonnan parantamista AI: n kautta, he tekisivät hyvää muistaa, että monet heidän valitsijoistaan ​​jäävät teknologiaan, joka on liian häiritsevää ja mahdollisesti haitallista.

”Useimmat ihmiset ovat riittävän älykkäitä, jotta tekniikka ei ole täydellinen ja että emme voi luottaa näihin järjestelmiin tekemästä täysin oikeudenmukaisia ​​ja oikeita päätöksiä”, sanoo New York-pohjainen Data & Society -kulttuurinen antropologi Madeleine Clare Elish tutkimuslaitos.

Elishiä kannustetaan siihen, että teknologiayritykset alkavat "nähdä, että heillä on vastuu paitsi kuluttajista vaan yhteiskunnasta", ja ovat valmiita keskustelemaan ja seuraamaan AI: n kehitystä eri uusien organisaatioiden kautta.

Mutta hänen lopullinen neuvonsa on kuluttajille, joilla on vielä ylin käsi: ”Data on valuutta, johon AI on rakennettu, ja sen arvo on jotain. Joten ehkä ajattele kahdesti ennen kuin annat sen pois. "