Roboti ucigasi: soldatii care nu dorm niciodata

Pe un deal verde cu vedere la perimetrul marginit de copaci al orasului Daejeon, un oras din centrul Coreei de Sud, o turela de mitraliera scaneaza in gol orizontul. Este cam de marimea unui caine mare; grasut, alb si curatat. O centura de gloante – calibru .50, de genul care poate opri un camion pe urmele sale – este drapata peste un umar. Un cablu ethernet conduce de la baza pistolului si trece prin iarba ordonata intr-un mic cort de foisor pe care, in caldura de dupa-amiaza coreeana, ti-ar fi iertat ca speri ca ar putea contine farfurii cu sandvisuri de castraveti si o oala cu ceai.

In schimb, cablul se strecoara pe o masa de picior inainte de a se arunca in partea din spate a unui computer, al carui ecran afiseaza un patch colorat de fluxuri de camere. posta romana www.play-bookmarks.win Una dintre ele prezinta o baleiere a orizontului din fata noastra cu 180 de grade. Un altul prezinta o vizualizare prin satelit de sus in jos a scenei, precum o harta Google amenajata, instruita amenintator cu privire la pozitia noastra.

Un con rosu, suprapus pe imagine, indica intervalul turelei. Se raspandeste in peisaj: un teritoriu in valoare de patru kilometri, o distanta suficienta pentru a patrunde adanc in oras din acest punct de vedere favorabil. Langa tastatura se afla un joystick complicat, genul pe care un pasionat de simulatorul de zbor pe PC l-ar putea folosi. O foaie laminata este lipita pe masa in fata controlerului, raportand functia diferitelor butoane. Unul isi propune. turist info www.mailstreet.com Un altul masoara distanta de la pistol la tinta. Unul incarca gloantele in camera. Apasati pe tragaci si se va declansa.

Super aEgis II are o autonomie de aproximativ patru kilometri – si o mitraliera suficient de puternica pentru a opri un camion (Credit: Simon Parkin)

O bataie de ingineri care stau in jurul mesei tresari in timp ce, neanuntat, un avertisment lat de un difuzor masiv, montat pe trepied. Un patrat de directionare clipeste pe ecranul computerului, reducand cu zero un vehicul care se deplaseaza in vizorul camerei. Botul pistolului se deschide pe masura ce patratul rosu, ca ceva ridicat din jocul video futurist militar Call of Duty, se misca pe ecran. Difuzorul, care trebuie sa insoteasca turela in toate expeditiile sale, este cunoscut sub numele de robot acustic. my ip www.last.fm Vocea sa are o autonomie de trei kilometri. Sunetul este transmis cu o precizie de neimaginat, emitand un avertisment catre o tinta potentiala inainte de a fi impuscat (un avertisment trebuie sa preceada orice declansare, conform dreptului international, imi spune unul dintre inginerii care poarta haina de laborator). „Intoarce-te”, se spune, in coreeana cu foc rapid. „Intoarce-te sau vom trage”.

„Noi” este important. Super aEgis II, cea mai bine vanduta turela automata din Coreea de Sud, nu va trage fara a primi mai intai un OK de la un om. Operatorul uman trebuie mai intai sa introduca o parola in sistemul computerului pentru a debloca capacitatea de tragere a turelei. google classroom ajayl.com Apoi, ei trebuie sa dea introducerea manuala care permite turnuletei sa traga. „Initial nu a fost conceput in acest fel”, explica Jungsuk Park, inginer principal de cercetare pentru DoDAAM, producatorul turelei. Park lucreaza in divizia de supraveghere robotica a companiei, care are sediul in districtul tehnologic Yuseong din Daejon. Acesta are 150 de angajati, dintre care majoritatea, la fel ca Park, sunt si ingineri. „Versiunea noastra originala avea un sistem de declansare automata”, explica el. „Dar toti clientii nostri au cerut implementarea unor garantii. Tehnologic nu a fost o problema pentru noi. anaf speedy-wiki.win

Orasul sud-coreean Daejon este un hub pentru firmele de robotica militara (Credit: Getty Images)

In ultimii 15 ani s-a inregistrat o dezvoltare concertata a unor astfel de arme si drone automate. Armata SUA foloseste roboti semi-autonomi similari, proiectati pentru eliminarea si supravegherea bombelor. In 2000, Congresul SUA a ordonat ca o treime din vehiculele militare terestre si avioanele cu atac profund sa fie inlocuite cu vehicule robotizate. agerpres anime-online.su Sase ani mai tarziu, sute de roboti mobili tactici PackBot au fost desfasurati in Irak si Afganistan pentru a deschide usile in lupta urbana, pentru a pune fibre optice, pentru a dezactiva bombele si pentru a indeplini alte sarcini periculoase care altfel ar fi fost indeplinite de oameni.

„Restrictii autoimpuse”

Inca din 2005, New York Times a raportat planurile Pentagonului de a inlocui soldatii cu roboti autonomi. Este usor de inteles de ce. Robotii reduc nevoia de oameni in lupta si, prin urmare, salveaza vietile soldatilor, marinarilor si pilotilor. Ce parinte si-ar trimite copilul intr-o zona de razboi daca un robot ar putea face treaba? Dar, in timp ce dispozitive precum Super aEgis II, care sunt capabile sa omoare in mod autonom, au existat de mai bine de un deceniu, in masura in care publicul stie, nu au fost folositi in serviciu activ roboti care poarta arme complet autonome.

Prima lege a roboticii scriitorului de science fiction Isaac Asimov, potrivit careia „un robot nu poate rani o fiinta umana sau, prin inactiune, permite unei fiinte umane sa faca rau”, se pare ca va fi in curand incalcata. Apelul de la Human Rights Watch pentru interzicerea totala a „dezvoltarii, productiei si utilizarii armelor complet autonome” pare absurd de nerealist. vremea satu mare lovelessonlist6.tearosediner.net Astfel de masini exista deja si sunt vandute pe piata – desi cu, asa cum a spus Park DoDAAM, „restrictii autoimpuse” asupra capacitatilor lor.

Trupele nord-coreene au cercetat granita cu Coreea de Sud de multe ori de la razboiul din anii 1950 (Credit: Getty Images)

„Cand am inceput aceasta afacere, am vazut o oportunitate”, spune Yangchan Song, directorul de planificare strategica al DoDAAM, in timp ce ne asezam intr-o sala de sedinte racita dupa demonstratie. „Armele automatizate vor fi viitorul. Am avut dreptate. Evolutia a fost rapida. Am trecut deja de la dispozitivele de lupta cu telecomanda, la ceea ce abordam acum: dispozitive inteligente care sunt capabile sa ia propriile decizii. ”

Coreea de Sud a devenit un lider in acest domeniu al roboticii militare, deoarece tara impartaseste granita cu inamicul sau jurat, potrivit CEO-ului DoDAAM, Myung Kwang Chang (un om maret care rataceste pe coridoarele fabricii sale, urmarit de un husky frumos cu ochi albastri stralucitori pe care Sunt avertizat sa nu ating niciodata, niciodata). urgent cargus xn--90acamnljt9afl2g.xn--p1ai „Nevoia este mama inventiei”, spune el. „Traim intr-un cadru unic. Avem in apropiere un inamic puternic si mereu prezent. Datorita acestei amenintari constante, avem traditia dezvoltarii unei tehnologii militare puternice si inovatoare de sprijin in aceasta tara. Armele noastre nu dorm, asa cum trebuie oamenii. Ei pot vedea in intuneric, la fel ca oamenii nu. Prin urmare, tehnologia noastra acopera golurile capacitatii umane. virgin radio www.themirch.com ”

Turela automata poate monitoriza frontiera 24 de ore pe zi, spre deosebire de o santinela umana (Credit: Getty Images)

Song sta la masa larga, flancata de cinci tineri ingineri, dintre care majoritatea au fost educati la colegiile Ivy League din America, inainte de a se intoarce sa lucreze in industria de armament profitabila din Coreea de Sud. pro tv board.rogue-war.de „Urmatorul pas pentru a ajunge la un loc in care software-ul nostru poate discerne daca o tinta este prietena, dusmana, civila sau militara”, explica el.

• sport
• juventus
• convertor valutar
• speedtest
• telekom
• translator englez roman
• tiramisu
• rule 34
• jador
• digi 24
• fortnite tracker
• calendar ortodox 2020
• vremea oradea
• speed test
• dani mocanu
• radio live
• bitcoin price
• survivor
• gds
• you

„In prezent, oamenii trebuie sa identifice daca o tinta este sau nu un adversar”. Park si ceilalti ingineri sustin ca sunt aproape de a elimina necesitatea acestei interventii umane. Super aEgis II se realizeaza la gasirea potentialelor tinte intr-o zona. (Un operator poate chiar specifica un perimetru virtual, astfel incat doar elementele in miscare din acea zona sunt selectate de pistol.) Apoi, datorita numeroaselor sale camere, Park spune ca software-ul pistolului poate discerne daca o tinta potentiala poarta sau nu explozivi sub camasa. „In decurs de un deceniu cred ca vom putea identifica din punct de vedere computerizat tipul de inamic pe baza uniformei lor”, spune el. nio stock www.usagitoissho02.net

Odata ce o arma este capabila sa-i spuna prietenului de la dusman si sa traga automat asupra acestuia din urma, este un scurt pas catre automatizarea completa. Si de indata ce o arma poate decide pe cine si cand sa omoare, fictiunea stiintifica Robocop devine realitate. Filosoful german Thomas Metzinger a sustinut ca perspectiva cresterii cantitatii de suferinta in lume este atat de ingrozitoare din punct de vedere moral, incat ar trebui sa incetam imediat sa construim roboti cu inteligenta artificiala. Dar recompensele financiare pentru companiile care construiesc aceste masini sunt de asa natura incat pledoaria lui Metzinger este deja invechita. Robotii nu vin; sunt deja aici. Intrebarea acum este, ce ii invatam?

Reguli complexe

Dilema caruciorului Philippa Foot, prezentata pentru prima data in 1967, este familiara oricarui student la etica. Ea a sugerat urmatorul scenariu: un vagon de tren fugit se apropie de o bifurcatie in sine. translate google front-wiki.win Daca va continua nediversit, un echipaj de lucru format din cinci persoane va fi lovit si ucis. Daca coboara pe cealalta cale, un muncitor singuratic va fi ucis. Ce faci, operatorul? Acest tip de dilema etica va trebui in curand sa fie raspuns nu de oameni, ci de masinile noastre. Este posibil ca masina cu conducere autonoma sa decida daca se prabuseste sau nu in masina din fata, potential ranind acei ocupanti, sau sa se indeparteze de pe drum, punandu-si proprii pasageri in pericol. (Dezvoltarea masinilor Google a fost partial motivata de experienta designerului Sebastian Thrun de a pierde pe cineva apropiat intr-un accident de masina.

Daca un pilot uman poate prabusi in mod deliberat un avion de linie, ar trebui ca astfel de avioane sa aiba autopiloti care nu pot fi supremati? (Credit: Getty Images)

La fel, o versiune complet autonoma a dronei Predator poate fi nevoita sa decida daca sa traga sau nu asupra unei case ai carei ocupanti includ atat soldati inamici, cat si civili. Cum construiti, ca inginer software, un set de reguli pentru ca un astfel de dispozitiv sa fie respectat in aceste scenarii? Este posibil sa programati un dispozitiv pentru a gandi de la sine? Pentru multi, cea mai simpla solutie este sa ocoleasca aceste intrebari, necesitand pur si simplu orice masina automata care pune viata umana in pericol pentru a permite o suprascriere a omului. teamviewer footballzaa.com Acesta este motivul pentru care minele terestre au fost interzise prin tratatul de la Ottawa in 1997. Acestea erau, in modul cel mai de baza imaginabil, arme autonome care ar exploda pe oricine le-ar fi calcat.

In acest context, furnizarea de modificari umane are sens. Pare evident, de exemplu, ca pilotii ar trebui sa aiba control deplin asupra sistemului de pilot automat al unui avion. Dar dezastrul Germanwings din 2015, cand copilotul Andreas Lubitz a prabusit in mod deliberat avionul in Alpii francezi, ucigand toti cei 150 de pasageri, complica problema. Poate ca, de fapt, niciunui pilot nu ar trebui sa i se permita sa treaca peste un computer – cel putin, nu daca inseamna ca sunt capabili sa piloteze un avion pe malul unui munte?

Robotii militari ar putea fi proiectati astfel incat sa isi dezvolte propriul cadru etic (Credit: Getty Images)

Unii cred ca raspunsul, deci, este sa imite modul in care fiintele umane construiesc un cadru etic si invata sa reflecteze asupra diferitelor reguli morale, dand sens celor care se potrivesc. „Dobandim un sentiment intuitiv a ceea ce este acceptabil din punct de vedere etic, urmarind modul in care ceilalti se comporta si reactioneaza la situatii”, spune Colin Allen, profesor de stiinte cognitive si filosofia stiintei la Universitatea Indiana si co-autor al cartii Moral Machines: Teaching Robots Chiar din greseala. „Cu alte cuvinte, invatam ceea ce este si nu este acceptabil, din punct de vedere etic, de la altii – cu pericolul ca putem invata comportamente rele atunci cand sunt prezentate cu modele gresite. Fie masinile vor trebui sa aiba capacitati de invatare similare, fie vor trebui sa aiba sfere de actiune foarte restranse, ramanand fixate la podeaua fabricii, ca sa spunem asa. ”

La DoDAAM, Park are ceea ce pare a fi un compromis solid. „Cand vom ajunge la punctul in care avem o turela care poate lua decizii complet autonome de la sine, ne vom asigura ca AI va adera la manualul armatei relevante. gsp hostinpl.ru Vom urma acea descriere si vom incorpora aceste reguli de implicare in sistemul nostru. ”

„Valori inghetate”

Pentru Allen, totusi, acesta ar putea fi un plan gresit. „Google recunoaste ca una dintre cele mai dificile probleme pentru programarea lor este modul in care o masina automata ar trebui sa se comporte la un indicator de oprire in patru sensuri”, explica el. „In acest tip de scenariu este o chestiune de a fi in concordanta cu normele locale, mai degraba decat de a urma codul rutier – pe care nici un om nu il respecta strict”. Cu siguranta, in contextul haotic al campului de lupta, un robot trebuie sa poata gandi singur? La fel, exista pericolul de a „ingheta” valorile noastre, atat militare, cat si civile, in hardware. „Imaginati-va daca fondatorii SUA si-ar fi inghetat valorile pentru a permite sclavia, drepturile restranse ale femeilor si asa mai departe”, spune Marcus. „In cele din urma, ne-am dori probabil ca o masina cu o baza foarte solida sa poata invata de la sine si poate chiar sa ne depaseasca abilitatile de a rationa moral”. google chrome warshipsfaq.ru

Pe masura ce tehnologia se dezvolta in continuare, companii precum DoDAAM vor trebui sa isi stabileasca limitele etice ale masinilor (Credit: Simon Parkin)

Pentru Anders Sandberg, cercetator principal la Institutul Viitorului Umanitatii din Oxford Martin School, beneficiile potentiale ale oferirii masinilor de a-si construi propriile cadre etice vin cu riscuri considerabile. „Un sistem cu adevarat de auto-invatare ar putea invata diferite valori si teorii despre actiunile adecvate de facut si, daca s-ar putea reflecta asupra sa, ar putea deveni un adevarat agent moral in sens filosofic”, spune el. „Problema este ca ar putea invata valori aparent nebunesti sau extraterestre, chiar daca pleaca de la puncte de vedere comune ale omului.”

Ceasul bifeaza la aceste intrebari. Companii precum DoDAAM continua sa deschida noi drumuri in domeniu, chiar inainte ca speciile noastre sa aiba raspunsuri adecvate la problemele pe care le prezinta munca lor. „Ar trebui sa investim acum in incercarea de a afla cum sa reglementam software-ul, cum sa aplicam aceste reglementari si cum sa verificam daca software-ul face ceea ce dorim sa faca”, indeamna Marcus. „Ar trebui, de asemenea, sa investim in a afla cum sa implementam rationamentul etic in masini. elon musk brnk.in.ua Nimic din toate acestea nu este usor; totul va deveni probabil critic in deceniile urmatoare. ”

Allen crede ca mai este timp. „Avem ocazia sa analizam ramificatiile si solutiile posibile in timp ce tehnologia este inca in curs de dezvoltare, ceea ce nu a fost intotdeauna cazul”, spune el. „As dori sa vad panourile intreprinderi-guvern-cetateni imputernicite sa evalueze si sa monitorizeze desfasurarea masinilor care sunt capabile sa functioneze cu supraveghere umana directa mica sau deloc in spatii publice precum drumurile si caile respiratorii. Astfel de grupuri ar trebui sa asigure supravegherea in acelasi mod in care comitetele pentru subiecti umani monitorizeaza cercetarile care implica subiecti umani. ”

Sandberg este de acord, desi crede ca suntem inca departe de a avea raspunsuri viabile care pot fi aduse in orice fel de reglementare. „Este nevoie urgenta de mai multe cercetari, spune el. inmh www.theodysseyonline.com „Cercetarile serioase privind etica masinilor si siguranta AI sunt un domeniu extrem de nou – primele idei au inceput sa apara la sfarsitul anilor 1990, decenii dupa ce cercetarea adecvata a AI a fost deja bine stabilita. Descoperim noi surprize intr-un ritm ridicat: atat instabilitatea mijloacelor evidente de fabricare a masinilor etice, cat si problemele filosofice profunde puse de probleme aparent simple de inginerie. ” Sandberg considera ca cheia este munca interdisciplinara a filozofilor, inginerilor, sociologilor si chiar a economistilor. „Teoria nu este suficienta”, spune el. „Trebuie sa fim angajati cu oamenii care proiecteaza si implementeaza aceste sisteme.”

Daca masinile noastre de razboi pot gandi de la sine, sunt zilele luptei umane pe cale de iesire? (Credit: Getty Images)

Inapoi la fabrica DoDAAM din Daejeon, inginerii nu au raspunsuri clare la aceste intrebari care sunt ridicate atat de urgent de munca lor. „Viata umana este mai importanta decat orice, asa ca de aceea am implementat garantiile pe care le avem pe turnul nostru”, spune Song. imagini de fundal q2a.sydt.com.tw Dar pentru Park si pentru ceilalti ingineri din divizia sa de cercetare, aceasta este o stare temporara. Scopul lor este acum de a face produsul „mai inteligent”, concentrandu-se pe „cresterea functionalitatii automate a pistolului”, introducand „recunoasterea tintelor” si creand „sisteme intregi in retea”, prin care turelele se leaga intre ele pentru a acoperi distante mai mari.

Indiferent de ceea ce este posibil in viitor, exista deja in lumea noastra mitraliere automate capabile sa gaseasca, sa urmareasca, sa avertizeze si sa elimine tinte umane, absente oricarei interactiuni umane. Fara reglementari internationale clare, singurul lucru care ii impiedica pe producatorii de arme sa vanda astfel de masini pare sa fie constiinta, nu a inginerului sau a robotului, ci a clientilor. „Daca cineva ar veni la noi dorind o turela care sa nu aiba garantiile actuale, i-am sfatui, desigur, altfel si vom evidentia problemele potentiale”, spune Park. „Dar in cele din urma vor decide ce vor. Si ne dezvoltam dupa specificatiile clientilor. dacia collinodgr606.skyrock.com ”

Urmariti-ne pe  Facebook , Twitter , Google+ si LinkedIn .