William Hertling este autorul aclamatului serial Singularity, inclusiv Avogadro Corp, pe care Wired l-a numit „infiorator si convingator”. Viitorul sau tehnotriller de confidentialitate a datelor, Kill Process, va fi disponibil in aprilie.

William Hertling a vorbit indelung cu mine despre tehnologia invaziva si Big Brother, interfata creier-tehnologie, Singularitatea, efectul de Ludite, pirateria, dependenta de tehnologie si modul in care fictiunea sa a prezis tendintele tulburatoare ale tehnologiei cu o precizie uluitoare.

CARL SLAUGHTER: Daca Google are tehnologia pentru a aduna, analiza si utiliza informatii la o scara atat de larga si totusi atat de intima personal, si face toate acestea practic cu viteza gandirii, ce pot face guvernul sau corporatiile?

WILLIAM HERTLING: Scriu despre proprietatea datelor, confidentialitatea si comingling-ul de date in Kill Process.

Multi oameni sunt ingrijorati de probleme precum setarile de confidentialitate ale postarilor lor de Facebook sau cat de mult din profilul lor este impartasit agentilor de publicitate. Dar problemele reale de confidentialitate a datelor sunt mult mai grave decat cele preocupate de majoritatea oamenilor. Luati in considerare faptul ca oamenii impartasesc detalii intime despre viata si preferintele lor pe site-urile de intalnire, raspunzand uneori mii de intrebari despre orice, de la ceea ce le place sa manance la activitatile lor sexuale preferate si toate acestea sunt impartasite cu agentii de publicitate. Imaginati-va imaginea cuprinzatoare care poate fi construita din viata cuiva atunci cand datele sale sunt combinate: postarile si like-urile social media, istoricul cautarii, tiparele de cumparare si jurnalul geografic de calatorie. Toate aceste date se gasesc astazi pe Internet si, in anumite conditii, surse de date aparent disparate se pot conecta impreuna.

Acestea fiind spuse, ceea ce se intampla in practica de obicei nu este la fel de rau ca ceea ce ne imaginam. Colectarea si utilizarea datelor se incadreaza de obicei in oricare din doua categorii:

  1. Organizatiile aduna o cantitate extraordinara de date si nu sunt foarte eficiente in utilizarea acestora. Acest lucru se intampla de cele mai multe ori. De asemenea, banuiesc ca majoritatea datelor colectate de guvern se incadreaza in aceasta categorie.
  2. Organizatiile aduna o cantitate extraordinara de date si sunt foarte eficiente in utilizarea acestora pentru a conduce publicitate vizata.

Infame? Probabil ca nu. Potential jenant, sigur.

Exista ingrijorari legitime in ceea ce priveste anunturile puternic orientate Publicitatea manipuleaza comportamentul si cu cat este mai eficienta directionarea, cu atat poate fi mai manipulativ. Luati in considerare ca persoanele deprimate tind sa cumpere mai mult si sa cheltuiasca mai mult pentru fiecare articol pe care il cumpara. Agentii de publicitate si comerciantii cu amanuntul isi pot adapta anunturile, produsele si strategiile de stabilire a preturilor pentru a profita de acest efect si a extrage mai multi bani de la clienti, in special cei mai vulnerabili la manipularea lor.

Pe de alta parte, uneori publicitatea vizata este binevenita. Intr-o zi am vazut o alerta pe Facebook ca trupa mea preferata canta in oras chiar in acea noapte.

Array

Am fost recunoscator ca Facebook a avut aceasta „functie de alerta de banda” si m-am grabit sa cumpar bilete.

Desigur, asta nu s-a intamplat deloc. Nu exista nicio functie de alerta de banda pe Facebook. Ceea ce s-a intamplat cu adevarat a fost ca trupa mea preferata avea bilete nevandute pentru spectacol in acea seara. Au scos un anunt pe Facebook vizat fanilor lor din zona geografica Portland si am vazut anuntul. Nu mi-am dat seama de asta decat mai tarziu. Totusi, nu am fost suparat pe publicitatea vizata in acest caz. Departe de. Am apreciat foarte mult sa stiu ca se joaca.

Cu toate acestea, se pot intampla lucruri ametitoare si ele provin aproape intotdeauna din abuzuri ale sistemului.

Luati in considerare scandalul WebcamGate care a avut loc in 2010. Un district scolar a instalat programe spyware pe computerele de la scoala, pe care elevii au primit mandatul sa le utilizeze pentru activitati scolare si teme. Nu aveau abilitatea de a renunta la spyware si nu aveau voie sa utilizeze calculatoare personale. Spyware-ul includea o capacitate de a activa de la distanta camera web, o caracteristica care sa ajute la returnarea echipamentului in cazul in care laptopurile sunt furate. Dar a fost folosit pentru asta? Nu, in schimb, a fost abuzat de personalul de securitate si diversi oficiali ai scolii care l-au folosit pentru a spiona studentii si pentru a face sute de poze cu ei in diferite etape de dezbracare.

Un alt caz despre care a vorbit Cory Doctorow a fost faptul ca malware-ul guvernamental a fost introdus pe computere, in teorie, pentru a oferi guvernului un backdoor in cazul in care au nevoie sa conecteze computerul intr-un dosar penal. Ce sa intamplat de fapt? Partea din spate a acestora a fost compromisa de criminali, care au folosit-o apoi pentru a spiona persoane obisnuite si oficiali guvernamentali. Acest lucru este similar cu motivatia pe care Apple o foloseste pentru a se apara impotriva cererii FBI de a crea o versiune compromisa a iOS.

Atunci cand datele sunt colectate de guverne, in mod ideal ar fi folosite pentru a detecta si a opri o crima inainte de a se intampla. Daca s-ar intampla tot ce s-a intamplat vreodata, nu am vedea la fel de multa opozitie fata de cererile guvernului pentru spatii in aer liber si alte puncte slabe de securitate.

Dar, in practica, aceste date sunt abuzate de cei din interiorul si din afara guvernului.

Luati in considerare ca intre patruzeci si cincizeci la suta din toate gospodariile politistilor au violenta in familie. Cincizeci la suta! Acesta este un numar nebun. Daca jumatate din toti ofiterii de politie comit infractiuni de violenta domestica (majoritatea nepedepsite), cat de des este accesat guvernul la date abuzate pentru a spiona membrii familiei si prietenii sau este folosit ca parghie impotriva oamenilor?

CS: Ce zici de problemele pirateriei?

WH: Tim O’Reilly a spus „Pentru un autor tipic, obscuritatea este o amenintare mult mai mare decat pirateria.” Ma bucur ca oamenii imi citesc cartile, indiferent daca le cumpara sau nu. Cory Doctorow a dovedit ca, desi isi pune cartile la dispozitie gratuit, destule persoane le mai achizitioneaza ca este capabil sa traiasca din vanzarile de carti.

Ceea ce aud multi oameni spun este ca pot obtine ceea ce isi doresc in mod convenabil, accesibil si in formatul pe care si-l doresc printr-un canal legal, o vor face. Daca nu se poate, o vor turmenta. Pentru acesti oameni, pirateria este o optiune de rezerva pe care o folosesc doar atunci cand ceva are un pret rezonabil, blocat cu DRM sau disponibil doar prin canale dificil de utilizat.

Ne indreptam catre o lume cu probleme de piraterie mult mai mari. Imprimantele 3D muta pirateria din domeniul bunurilor digitale (limitate la carti, muzica si film) in toate bunurile fizice. Astazi, imprimantele 3D pot produce lucruri din plastic cu fidelitate scazuta. Undeva pe marginea drumului, totul pana la si inclusiv smartphone-ul sau masina poate iesi dintr-o imprimanta 3D. Atunci toate produsele fizice vor fi supuse pirateriei.

Aceasta ne readuce la ceea ce oamenii sunt dispusi sa plateasca. Astazi, marcile de nume poarta o valoare peste costul real al marfurilor. In viitor, atunci cand copiile piratate sunt usor de obtinut si gratuit, brandurile de nume nu vor putea percepe un super premium. Cine ar cumpara un tricou de designer pentru 50 de dolari, daca poate torrent designul si l-ar putea imprima acasa pentru 5 dolari in consumabile? Numai atunci cand proiectele au un pret rezonabil, oamenii le vor cumpara legal.

CS: Ce zici de interfetele creier-dispozitiv? Vor avea nepotii nostri jetoane de computer in creierul lor, care ne permit sa facem totul, de la deblocarea usii noastre, pentru a conduce masina noastra pentru a naviga pe net pentru a scrie cuvinte? Vor fi batuti in creierul celuilalt?

WH: Cand am scris The Last Firewall, care este setat in 2035, am extrapolat progresul tehnologic prin analizarea tendintelor cuantificabile pe termen lung, precum cresterile stocarii computerului, viteze de conectare la Internet si puterea de procesare a procesorului. O tendinta suplimentara pe care am examinat-o a fost dimensiunea unui computer, care se micsoreaza exponential. Urmarind aceasta tendinta spre mijlocul anilor 2030, am vazut ca calculatoarele, impreuna cu toate intrarile / iesirile, sursa de alimentare si alte componente vor avea dimensiunea de stergere a creionului. Asta sugereaza ca am putea vedea primele computere complet incorporate in acea perioada. Trebuie create alte tehnologii de sprijin, cum ar fi interfetele neuronale, dar deja vedem ca lucrul se intampla cu implanturi cohleare si optice si proiectul de interfata creier-computer al DARPA.

2035 este la doar douazeci de ani. Calcularea incorporata in creier este un salt urias pentru umanitate. Adevarata semnificatie nu este aceea de a naviga pe net sau de a controla calculatoarele cu mintea noastra, ci de a participa la realitati virtuale extrem de convingatoare, care sunt la fel de reale ca realitatea noastra actuala, dar mult mai bune decat orice putem experimenta in viata reala. Daca credeti ca drogurile sau televiziunea sunt dependente, nu exista nimic in comparatie cu o experienta cu adevarat imersiva, incorporata in creier. Vrei sa fii un supererou? Super-personaj negativ? Super-stud? Vrei sa-ti modifici emotiile pentru a fi super-fericiti? Orice este posibil.

The Unincorporated Man de Dani Kollin si Eytan Kollin urmeaza cateva sute de ani in viitor. Pe unul dintre subploturi se adreseaza aparitia primei realitati virtuale adevarate. Civilizatia se prabuseste intr-o perioada scurta de timp, deoarece toata lumea devine captivata de VR pana in punctul de a-si abandona copiii. A fost unul dintre cele mai inflacatoare pasaje pe care le-am citit vreodata.

In mod similar, seria Nexus a lui Ramez Naam exploreaza si acest subiect, pe langa ideea de hacking cerebral. Daca sunteti deloc ingrijorat de abuzurile de securitate a computerului acum, imaginati-va ce se intampla cand cealalta parte a firewallului nu sunt datele dvs. private, ci creierul vostru.

CS: Ce zici de reactie? Marii nostri nostri vor lansa o miscare pentru a opri si a interzice orice tip de tehnologie care ar putea fi accesata si abuzata de altii, Luddite / Canticle pentru stilul Leibowitz?

WH: Cred ca vom vedea astfel de miscari, la fel cum vedem comunitatile de astazi orientate in jurul vietii intentionate sau sustenabilitatii. Dar este dificil pentru un procent substantial al societatii sa se deplaseze inapoi din punct de vedere tehnologic, deoarece numarul de persoane pe care le avem si nivelul de trai pe care il solicita necesita o tehnologie avansata pentru a mentine impactul asupra mediului limitat la niveluri durabile.

Nu putem rula planeta cu tehnologia anilor ’50. Nu putem opera fabrici cu niveluri de eficienta din anii 1950 si nu putem furniza toate produsele pe care oamenii le doresc sau sa conducem cati kilometri la fel ca noi in masini care au 10 mile pe galon. Nu putem muta materiile prime de care avem nevoie fara software avansat de planificare si urmarire. In viitor, va fi nevoie de cantitati din ce in ce mai mari de tehnologie pentru a asigura un nivel de viata crestere crescand in timp ce se va adapta la resursele disponibile.

CS: Cum s-au jucat scenariile din fictiunea ta in lumea reala?

WH: In primul meu roman, Avogadro Corp, protagonistul, David Ryan conduce o initiativa prin e-mail pentru cea mai mare companie de internet din lume, analogul meu fictiv la Google. Scopul proiectului lui David, cunoscut sub numele de Email Language Optimization Project sau ELOPe, este de a analiza e-mailurile pe masura ce utilizatorul le creeaza si de a optimiza continutul de e-mail destinat destinatarului. Daca sunteti un manager care va trimite un e-mail prin intermediul sefului pentru finantare suplimentara, ar trebui sa faceti un apel emotional sau un apel bazat pe date? Ar trebui sa includeti diagrame sau sa va lipiti de text? Exista cuvinte particulare care sunt mai mult sau mai putin convingatoare?

Proiectul urmeaza sa fie anulat din cauza finantarii insuficiente. David, disperat sa salveze proiectul, ceea ce ii va face sau va rupe cariera, ii ofera ELOPe acces la e-mailul tuturor celor din companie, instruindu-i sa modifice e-mailurile necesare pentru a optimiza succesul proiectului ELOPe. Rezultatul este o inteligenta artificiala scapata.

Una dintre cele mai mari surprize este doar cat de multe dintre premisele de baza s-au adeverit de la publicarea Avogadro Corp. Crystal este un plugin Gmail din viata reala care analizeaza profilurile de social media pentru a sugera imbunatatiri prin e-mail pe baza personalitatii destinatarului.

Google insusi a introdus o caracteristica de raspuns auto Gmail care scaneaza e-mailurile, determina continutul si apoi sugereaza mai multe raspunsuri adecvate.

Ceva similar s-a intamplat cu cel de-al doilea roman al meu, AI Apocalypse. Incepe cu un programator care creeaza un virus care sa umfle randurile botnetului mafiei ruse. In loc sa programeze functionalitati integrate, virusul este conceput pentru a ridica blocurile de constructie din alte programe de lucru si pentru a evolua cu fiecare noua generatie. Progresand cu viteza computerului, virusul se dezvolta intr-o intreaga specie de inteligente artificiale care comunica, comercializeaza resurse si construieste o economie bazata pe reputatie.

Dupa ce am publicat, cercetatorii au demonstrat un prototip de virus pentru computer, numit Frankenstein, care se autoasambleaza din alte programe.

AI Apocalypse a fost, de asemenea, utilizat intr-un proces legal batjocoritor la Liverpool Law School pentru a stabili exact ce drepturi legale ar trebui sa aiba AI.

Ulterior am scris The Last Firewall, care exploreaza transumanismul, modificarea oamenilor cu tehnologie, pentru a deveni ceva substantial mai mult decat uman. Ultimul roman din serie, The Turing Exception, considera ca abordarile supravietuirii ar trebui ca AI si oamenii sa se afle in conflicte de neevitat.

Seria a fost foarte populara in randul comunitatii tehnologice care tind sa aprecieze abordarile utilizate pentru a proiecta unde se indreapta tehnologia. Peter A. Garretson, care este fostul sef al Tehnologiei Viitoare pentru Planificarea Strategica a Fortelor Aeriene, a declarat „Avogadro Corp, AI Apocalypse si The Last Firewall sunt cele mai plauzibile si cele mai bine concepute scenarii care exploreaza aparitia inteligentei artificiale si implicatiile sale insotitoare si provocari pentru umanitate si societate. ”

CS: Ce te-a preocupat in ultima perioada?

WH: In ultima vreme m-am preocupat de proprietatea datelor si sanatatea pe termen lung a internetului. Daca te uiti inapoi la Internetul anilor 90, oamenii au controlat total continutul lor. Daca ai vrut sa impartasesti ceva, il pui pe un site web. Daca vrei sa-l dai jos, l-ai eliminat. Destul de simplu. Fast-forward 20 de ani. Nimeni nu stie cu adevarat sau nu controleaza cum se mai impartaseste ceva. Cine poate vedea ce am postat? Pot sa-l trag inapoi? Cine profita de asta? Cat din informatiile mele sensibile si private exista pe internet si ce pot face despre asta? Acestea sunt intrebari mult mai grele de raspuns acum.

Am sondat utilizatorii Facebook acum aproximativ un an. O treime au fost fani nerabdatori care au vorbit despre cat de mult le-a placut sa stea conectat cu alte persoane. Insa celelalte doua treimi s-au plans cu tarie pentru aceleasi putine lucruri: controlul asupra datelor lor, daca le ofereau informatiile personale (si pentru ce), modul in care se foloseau informatiile lor personale si daca ceea ce impartaseau erau private sau nu.

Dar iata lovitura: Niciuna dintre cele doua treimi nu poate scapa, deoarece Facebook tine ostatic conexiunile lor sociale. Pentru marea majoritate a oamenilor, daca aleg sa nu fie pe Facebook, ei nu ajung sa vada ce fac prietenii si familia lor sau raman conectati la ei.

Exista un motiv de inchisoare solitara este pedeapsa finala in inchisoare si asta pentru ca oamenii vor face aproape orice pentru a o evita. Fapt legat de interes: aproape jumatate din toti americanii respecta definitia de a fi izolati social.

Aici avem aceste instrumente sociale care, teoretic, pot fi folosite pentru conexiunea sociala. Insa majoritatea utilizatorilor se simt abuzati de corporatiile care administreaza aceste instrumente si totusi sunt tinuti captivi pentru ca este canalul lor principal pentru prieteni si familie.

Exista anumite paralele cu modul in care abuzatii casnici isi trateaza victimele si asta a inspirat Procesul Kill, care va avea loc in aprilie. Angie este un analist de date la cea mai mare companie din lume de social media, Tomo. Ea exploateaza accesul la datele tuturor pentru a-i profila pe abuzatori domestici si pentru a-i ucide. Dar, atunci cand are o revelatie ca Tomo are o relatie abuziva cu utilizatorii sai, decide ca trebuie sa elimine compania in sine.

Carl Slaughter a scris multe recenzii pentru Tangent inainte de a se muta la Diabolical Plots in calitate de recenzor si mai tarziu ca intervievator. A realizat 50 de interviuri in plus pentru Diabolical Plots. In ultimii 14 ani, el a calatorit pe glob predand ESL (engleza ca limba a doua) in 6 judete de pe 3 continente. Carl a calatorit in 18 tari si a numarat. (E obosit.) La facultate, Carl a studiat jurnalismul, radiodifuziunea, publicitatea, engleza, vorbirea si istoria. Timp de cativa ani, el a fost un varf pentru Associated Press. Eseul sau despre cultura chineza a fost publicat in Beijing Review. Eseul sau despre cultura coreeana a fost publicat in The Korea Times, la fel si expunerea sa asupra industriei coreene ESL. Rapoartele sale de calatorie / educatie despre Thailanda apar ocazional pe site-ul Ajarn. Carl se aboneaza la filosofia fictiunii Mike Resnick: Este vorba despre personaje. Consultati interviurile lui Diabolical Plots, fotografiile sale de pe Facebook cu elevii sai de toate varstele din intreaga lume si un scurt videoclip YouTube de pe Carl cu niste gradinite foarte emotionate din Thailanda.

ARTICOLE SIMILAREDE LA ACELAȘI AUTOR