SeksiSaitti

Kyllä tämä peli on käytännössä jo menetetty, sillä tekoälyn itsensä rajoittamisen lisäksi pitäisi pystyä estämään myös sen tahallinen rikollinen käyttö ihmisten toimesta.

Jos käy tuuri, ensimmäiset isot katastrofit eivät vielä tuhoa koko ihmiskuntaa, mutta herättävät kaikki ymmärtämään että edistyneiden tekoälyjen käyttöä pitää suurvaltojen rajoittaa samalla innolla kuin ydinaseiden valmistusta rajoitetaan.

Suurvallat ovat onnistuneet jo pitkään sen estämisessä että ydinaseita voisivat kaiken maailman pellepelottomat rakentaa omissa autotalleissaan. Ja ihmiset kannattavat tätä rajoittamista. Ensimmäisten suurien tekoälykatastrofien jälkeen ihmiset tulevat kannattamaan myös sen rajoittamista, että tavallisilla pulliaisilla olisi käytössään sikäli edistynyttä tietotekniikkaa, että sille voi asentaa pyörimään avoimen lähdekoodin tekoälyn (josta on poistettu turvarajoitukset) jolta voi saada vastauksia kysymyksiin tyyliin "miten voin valmistaa omassa autotallissani superpandemiaviruksen?"

Kun (ohjelmisto)tekniikka edistyy eikä superälykkäiden tekoälyjen pyörittämiseen enää tarvita kovin ihmeellistä laitteistoa, saatetaan sitten hyvinkin päätyä maailmaan jossa melko tavanomainen yleiskäyttöinen tietotekniikka on kielletty tavallisilta pulliaisilta (ja lisäksi pystytetty riittävän läpitunkeva valvontayhteiskunta ettei kukaan pysty salakuljettamaan luvatonta tehokasta läppäriä kotiinsa -- mutta riittävän läpitunkevan valvontayhteiskunnan pystyttämisessä ovat Kiinan ja Pohjois-Korean kaltaiset edelläkävijät jo pitkällä).

Kivempi ratkaisu ongelmiin olisi toki ollut, ettei olisi päästetty tekoälykehitystä riistäytymään kovin pitkälle ennen kuin on etukäteen kehitetty ratkaisut kuinka fiksut tekoälyt saadaan käyttäytymään hyvin (ns. alignment). Sillä jos meillä olisi tekoälyjä joiden tiedämme käyttäytyvän hyvin vaikka antaisimme niiden kehittyä ihmisiin nähden ylivertaisiksi, voisimme sitten vain antaa niiden painaa kaasun pohjaan omassa kehittymisessään aina vain älykkäämmiksi, ja luottaa siihen että ne kehittyneemmät tekoälyt kyllä pitävät kurissa ihmisten autotallikehitelmät.

Mutta ehkä oli utopismia yrittää suostutella että ihmiskunta olisi herännyt panostamaan alignment-ongelman ratkaisemiseen ajoissa (tätä kyllä fiksut yrittivät jo vuosikymmeniä sitten), jotta tuollainen ratkaisu olisi ollut mahdollinen. Tosimaailmassa meillä on nyt sitten käsissä ainoastaan tekoälyjä joihin emme voi luottaa että ne käyttäytyisivät hyvin, ja maailma täynnä miljardööriksi haluavia kyvykkäitä ihmisiä jotka dollarin kuvat silmissä pyörien kehittävät epäluotettavia tekoälyjään aina vain kyvykkäämmiksi niin nopeasti kuin pystyvät, turvallisuusnäkökohdat huomiotta jättäen. Ainoa tapa ihmisen selvitä hengissä tällaisessa maailmassa on kai asteittainen päätyminen totalitaristiseen valvontayhteiskuntaan.