Technologija: kaip ištaisyti tai, kas blogai google ir facebook

Turbūt labiausiai nustebino šių metų „Techonomy“ tema buvo tai, kaip daugelis pašnekovų yra nusiminę „Facebook“, „Google“ ir „Twitter“, kritikuodami savo požiūrį į privatumą ir ypač į galimą vaidmenį, kurį jie atliko įgalindami rusų įsilaužimą į 2016 m. Rinkimus.

Daugybė pranešėjų reikalavo įvairių šių „interneto milžinų“ reguliavimo, ir niekas iš nė vienos iš aukščiau paminėtų kompanijų konferencijoje nedalyvavo teikdamas alternatyvų požiūrį. Tai labai skyrėsi nuo praėjusių metų konferencijos, kai „Facebook“ generalinis direktorius Markas Zuckerbergas teigė, kad mintis, jog netikros naujienos „Facebook“ turėjo įtakos rinkimams, buvo „gana beprotiška idėja“.

Nuo to laiko, kaip pastebėjo „Techonomy“ įkūrėjas Simone'as Rossas, mes sužinojome, kad „dėl technologijos mus pasidaryti yra taip lengva, kaip ir sujungti“. Konferencijos įkūrėjas Davidas Kirkpatrickas (aukščiau) nustatė konferencijos toną sakydamas, kad „technologija yra gero jėga, tačiau tik tuo atveju, jei jūsų tikslas yra geras“, ir toliau sakydamas, kad, jo manymu, didelėms technologijų įmonėms reikia „iniciatyvaus“. sankirta “su vyriausybe, nesvarbu, ar ji vadinama reguliavimu, ar ne.

Autoritetas tinkle, dirbtinai intelektualiame pasaulyje

Žinomas investuotojas Rogeris McNamee iš „Elevation Partners“, ankstyvasis „Facebook“ ir „Google“ investuotojas, buvo bene pats neigiamiausias iš visų pranešėjų. McNamee teigė, kad šios bendrovės buvo „pradėtos gelbėti pasaulį“, tačiau tai pasikeitė, kai reklama tapo jų verslo modeliu. Jis sakė, kad išmanusis telefonas, sujungtas su asmenine informacija, leido „sukurti tokį smegenų įsilaužimo lygį, kokio dar niekada nebuvo matyta žiniasklaidoje“.

McNamee teigė manąs, kad Zuckerbergas buvo nuoširdus, sakydamas, kad netiki, jog toks įsilaužimas buvo įmanomas prieš metus, tačiau teigė, kad negalima pervertinti vaidmens, kurį dabar atlieka „Google“ ir „Facebook“. Jis komentavo: „Dabar turi būti sunku būti jais ir suvokti, kad sunaikinai Vakarų civilizaciją“.

danah boyd, „Data & Society“; Rogeris McNamee'as, „Elevation“ partneriai; Marc Rotenberg, Elektroninis privatumo informacijos centras (EPIC); Stratfordas, Shermanas

Ši diskusija kilo grupės „Institucija tinkliniame, dirbtinai intelektualiame pasaulyje“ dalyje, kurioje taip pat dalyvavo Danah Boyd, duomenų ir visuomenės ir „Microsoft“ tyrimų srities mokslininkė; Marc Rotenberg, Elektroninio privatumo informacijos centro (EPIC) prezidentas; ir moderatorius Stratfordas Shermanas iš „Complepli“. Shermanas teigė, kad nors „Facebook“ ir „Google“ pradėjo viešųjų kalbų forumus, jie yra „radikaliai nereguliuojami“. Turėdamas AI, kuris iš esmės galėtų paveikti žmonių rasę horizonte, Shermanas sakė esąs susirūpinęs dėl nenumatytų jau matomų technologinės plėtros padarinių.

Rotenbergas teigė, kad nors ir toliau nerimauja dėl tradicinių abejonių dėl privatumo, nes yra stebimas ir formuojamas, jis taip pat yra susirūpinęs dėl konkurencijos stokos, naujovių trūkumo ir rizikos demokratinėms institucijoms. Jis sakė, kad interneto milžinai turi didžiulę galią, o jų turimi duomenys sukuria tikrą įėjimo į barjerą barjerą, todėl nėra prasmingos konkurencijos. Rotenbergas teigė, kad Vašingtone jis yra nuo Reagano administracijos ir pirmą kartą „praėjusių metų rinkimuose nesijautė pažįstamas“.

Ankstesniame užsiėmime Boydas, parašęs knygą „ Tai sudėtingas“ , kalbėjo apie sunkumus susidurti su manipuliacijomis internete.

Ji papasakojo apie per pastaruosius 20 metų didėjantį manipuliavimo procesą, kuris prasidėjo nuo to, kad vaikai vilko „Oprah“ ir perėjo prie „rickrolls“ ir dalykų, tokių kaip vardo „Santorum“ paieškos rezultatų keitimas. Visai neseniai su „Gamergate“ didesni personažai tapo žaidėjais, įskaitant valstybinius veikėjus. Boydas teigė, kad interneto kompanijos mano, kad AI gali jas apsaugoti, tačiau grupės, bandančios manipuliuoti rezultatais, jau eksperimentuoja su natūraliu kalbos apdorojimu, o svarbiausia - sugadina duomenų šaltinius. Pvz., Netinkamų duomenų įvedimas į sistemą, jos nuomone, yra nauja pažeidžiamumas. Vis dėlto Boydas teigė, kad vienintelis atsakymas bus „kurti techninius antikūnus mūsų pramonėje“.

Šioje sesijoje Boydas teigė, kad technologijų įmonės ketina manipuliuoti keliais frontais, ir pažymėjo, kad nors visi žvelgia į Rusiją, yra ir daugybė kitų valstybių, vykdančių panašius veiksmus. Pavyzdžiui, Kinijos kompanijos bando užtikrinti, kad jos kontroliuotų PG, ir ji teigė, kad tai yra kitoks iššūkis, nes kalbama ne apie pramonės konkurenciją, o apie konkurenciją su valstybe.

Paklausus Sherman, ar tai yra karas, Boyd teigė, kad ji mano, kad tai yra, o McNamee teigė, kad tai yra klasikinis partizaninis karas, nes mūsų priešai prieš mus panaudojo mūsų technologijas. McNamee teigė, kad problema yra ne socialiniuose tinkluose ar paieškoje, o reklamos modelyje. Jis sakė, kad kovoje dėl žmonių dėmesio substancija yra palaidota sensacijos dėka, ir cituoja seną posakį, kad „jei kraujuota, tai veda“.

Shermanas pažymėjo, kad baimė ir pyktis yra daug labiau magnetiniai, taigi ir daug pigesni. Jis sakė, kad nors natūralios žinutės buvo naudojamos norint pasiekti daugiau nei 125 milijonus žmonių, pastangų tikslas buvo reklama suskirstyti žmones į grupes pagal bendrus pomėgius.

Rotenbergas teigė, kad pasisako už tai, kad algoritmai būtų skaidrūs ir reklama būtų reguliuojama, tačiau sakė, kad turime gerbti asmenų teisę kalbėti internetu. Tačiau McNamee'as teigė, kad „pirmoji pataisa buvo ginkluota“ ir kad internetinės erdvės iš esmės skiriasi nuo viešosios aikštės.

Boydas apibūdino tai, ką ji vadina „bumerango efektu“, arba, kitaip tariant, mintis, kad žiniasklaidos išprovokavimas pranešti apie pasipiktinusius dalykus yra esmė, nes tai sustiprina originalią žinią auditorijos segmentui, kuris nepasitiki žiniasklaida. Kaip pavyzdį, Boydas kalbėjo apie „Pizzagate“. Ji pažymėjo, kad prieš internetą žiniasklaida dažnai naudodavosi „strategine tyla“, kad išvengtų tokių dalykų kaip savižudybės ir Klano mitingai, kad būtų išvengta jų viešinimo.

Rotenbergas sutiko, kad daug šios rūpestingumo ir priežiūros tradicijos buvo prarasta, ir, pasak tokių dalykų, kaip skyrius 230 (kuriame sakoma, kad interneto bendrovės nėra atsakingos už tokius dalykus kaip vartotojų pranešimai), tradicinėms naujienoms tapo sunkiau konkuruoti.

Paklaustas sprendimų, McNamee teigė, kad „Facebook“ yra kultas ir jis turi nustoti neigti problemą bei ją spręsti, taip pat pradėti spręsti „programavimo“ problemą susisiekdamas su kiekvienu jos vartotoju. Rotenbergas propagavo reguliavimo idėją. Ir Boydas pasiūlė, kad turime investuoti pinigus į visuomenę, „perintegruoti“ Ameriką.

Svarstymas su naujaisiais hegemonistais

Markas Mahaney, „RBC Capital Markets“; Dave'as Morganas, „Simulmedia“; Joyce Vance, Alabamos universitetas; Davidas Kirkpatrickas, Technologija

Ankstyvoje „Reckoning with the New Hegemonists“ diskusijų grupėje beveik visi sutiko su Joyce'u Vance'u iš Alabamos universiteto, kuris teigė, kad technologijos iš tikrųjų pralenkė įstatymus, kurių žūtbūt reikia pasivyti. Tačiau Vance perspėjo, kad egzistuoja ir politinių atsakymų „paslysti“ rizika.

Dave'as Morganas „Simulmedia“ teigė, kad „bus reguliavimas“, nors jis teigė, kad gali būti, kad didžiosios kompanijos gali išvengti didžiulio jo poveikio.

Morganas pažymėjo, kad žiniasklaidos pramonės istorija suteikia paralelių to, ką matome dabar, nes laikraščiai būtų matę save kaip spausdinimo kompanijas, o ankstyvosios transliavimo kompanijos laikė save technologijų kompanijomis. Visa tai suteikia galimybę susisiekti su vartotojais, o tai aiškiai daro „Google“ ir „Facebook“. Dėl tokios koncentruotos žiniasklaidos galios atsirado daug antimonopolinių bylų, ir vyriausybė galėjo jose viešpatauti. Vienas didelis skirtumas šiandien yra tas, kad kitoms technologijoms reikalingas geografinis ryšys, kurio interneto įmonėms nereikia.

Vance'as pažymėjo, kad Senatas dabar svarsto įstatymo projektą, kuriame būtų reikalaujama, kad šios įmonės išsaugotų savo reklamos istoriją, taip pat paaiškintų, kas moka už politines reklamas. Tačiau Morganas atkreipė dėmesį, kad dabar tai yra pasaulinės įmonės, turinčios platesnį akiratį. Paklaustas apie Europos GDPR privatumo reglamentus, Vance teigė, kad JAV galbūt perdavė lyderystę ES šioje srityje. Ji sakė nemananti, kad JAV įmonės galės skirtingai vykdyti atitiktį skirtingose ​​geografinėse zonose, todėl įmonės pagal nutylėjimą laikysis Europos taisyklių.

Markas Mahaney iš „RBC Capital Markets“ sakė, kad įmonės jau yra reguliuojamos, ypač Europos Sąjungoje, o „Google“ yra ypač prižiūrima dėl jos paslaugų rinkimo ar reklamavimo kartu su jos paieškos rezultatais arba naudojant „Android“. Kirkpatrickas teigė, kad, jo manymu, antimonopolinis susitarimas iš tikrųjų padėjo „Microsoft“, tačiau Mahaney pasipriešino, kad „Microsoft“ sustabdė ne reguliuotojai, o konkurencija.

Ar technologijos ir vyriausybė gali išsaugoti demokratiją?

Timas Hwangas, „FiscalNote“; Minnie Ingersoll, „Code for America“; Marc Rotenberg, Elektroninis privatumo informacijos centras; Molly Turner, UC Berkeley Haas verslo mokykla; Žurnalas „Jon Fine“; Lawrence'as Nordenas, NYU Teisės mokykla

Panaši tema iškilo per pusryčių apskritąjį stalą pavadinimu „Ar gali technika ir vyriausybė išsaugoti demokratiją?“, Kuriame moderatorius Jonas Fine iš Inc Magazine paprašė sprendimų. Tačiau apskritojo stalo tikrai nebuvo.

Hwangas teigė, kad problema nėra technologijų platformos, o žmonių pyktis jaučiamas atsiribojus nuo ekonomikos.

Lawrence'as Nordenas iš Niujorko universiteto Teisės mokyklos Brennan centro teigė, kad įstatymai, reikalaujantys daugiau informacijos apie politinius skelbimus, yra lengvas atsakymas, tačiau, deja, didelė problema yra „tamsios žinutės“ arba nežinomos kilmės postai. Šiuo atžvilgiu, pasak jo, internetas labiau primena miesto aikštę.

Tačiau Rotenbergas teigė, kad yra priešingai, o internetas labiau primena įmonės miestą, kur platformos nustato taisykles ir nusprendžia, ką matai. Minnie Ingersoll iš „Code For America“ paklausė, ar problema yra užsienio kišimasis, ar „Google“ kontroliuoja tai, ką mes sakome. Reguliatoriai turi geriau suprasti problemas, sakė ji.

Molly Turner iš UC Berkeley Haas verslo mokyklos teigė, kad internetas tapo didžiausia saviraiškos priemone, tačiau nerimauja, kad tai kenkia pilietiniam diskursui. Kita vertus, ji nerimauja dėl platformoms keliamų reikalavimų pašalinti tam tikros rūšies informaciją (jei, pavyzdžiui, buvo susilpnintas Ryšių padorumo įstatymas ar dėl kitokio pobūdžio reguliavimo), nes staiga tokiu atveju platforma tampa „ kalba “.

Rotenbergas atsakė, kad nors automobilių įmonės kadaise kovojo su saugos taisyklėmis, jos galų gale padėjo automobiliams tapti saugesniems ir paskatino daugiau naujovių. Jis pasiūlė, kad stabili reguliavimo aplinka iš tikrųjų galėtų padėti platformoms. Rotenbergas pastebėjo, kad technologijų kompanijos reikalavo „tinklo neutralumo“ telekomunikacijų bendrovėms, bet ne sau, ir paragino sudaryti vienodas sąlygas.

Internetas užpultas

Markas Andersonas, Strateginių žinių tarnyba; Pederis Jungckas, „BAE Systems Intelligence & Security“; Rebecca MacKinnon, Naujoji Amerika; Davidas Kirkpatrickas, Technologija

Šią diskusiją tęsė baigiamoji grupė „Internetas pagal užpuolimą“.

Rebecca MacKinnon, kuri Naujojoje Amerikoje vadovauja „Ranking Digital Rights“ projektui, sakė, kad kažkada buvo prielaida, kad dėl interneto autoritariniai režimai ilgainiui taps panašūs į demokratijas. Dabar ji labiau bijo autoritarinių režimų ir demokratijos „susitiks per vidurį“.

MacKinnonas teigė, kad autoritariniai režimai pritaiko internetą savo tikslams, o demokratijos susiduria su populizmu, manipuliacijomis ir „priežiūros kapitalizmu“. Tačiau, pasak jos, demokratinės valstybės turėtų būti atsargios norėdamos reaguoti - nors ji sutinka, kad reikia didesnio algoritmų ir privatumo skaidrumo, ji yra susirūpinusi, kad cenzūros sistema palengvins susidorojimą su dalimis. visuomenės vyriausybės panieka.

Pederis Jungckas, vadovaujantis „BAE Systems“ žvalgybai ir saugumui, sutiko, kad vyriausybės norėtų tokias sistemas naudoti disidentų paieškai, ir teigė, kad idėja yra produktas ir, kaip ir bet kuris produktas, gali būti stumiamas. Paklaustas, ar nėra ginkluotos skelbimų sistemos, jis sakė: „Pandoros dėžė atidaryta ir mes negalime grįžti“.

Markas Andersonas iš Strateginių naujienų tarnybos teigė, kad mes matėme tiesią liniją nuo ARPANET dienų, kai dar nebuvo blogų vaikinų, iki šiandien, kai kasdien matome vis daugiau ir daugiau kenksmingo elgesio.

Andersonas buvo ypač aiškus aprašydamas, kaip Kinija vagia intelektinę nuosavybę ir naudoja ją išstumti įmones iš verslo. Ir jis pasiūlė, kad „Equifax“ įsilaužimas turėtų visus vyriausybės išpuolio ženklus. Apibendrindamas Andersonas teigė, kad „nemato sprendimo“.

Jungckas teigė, kad turėtume manyti, kad blogi vaikinai yra mūsų sistemose ir dirba prie sprendimų. Pavyzdžiui, jis teigė, kad socialinio draudimo numeris nebeįmanoma apsaugoti, todėl mums gali prireikti „blokinės grandinės“ sprendimo.

„Ranking Digital Rights“ projekte „MacKinnon“ įvertino 22 pasaulines bendroves 35 klausimais, susijusiais su saviraiškos laisve, privatumu ir saugumu. Ji sakė, kad dvi bendrovės gavo „Ds“, o visos kitos žlugo. Ji nori sužinoti, ką įmonės veikia su jūsų duomenimis; su kuo jie tuo dalijasi; ar jie atlieka deramą patikrinimą, saugumo vertinimus ir rizikos valdymą; ir ar jie gina privatumą ir saugumą, turinį ir išraišką. Skaidrumas nėra pakankamas, jos teigimu, bet būtinas pirmasis žingsnis.

Andersonas teigė, kad skaidrumas yra geras dalykas, bet ne sprendimas, ir pažymėjo, kad norintiems manipuliuoti sistema nereikia mokėti už skelbimus, tačiau jie gali naudoti 100 000 botnetų. Tada Kirkpatrickas pasiūlė, kad įmonės galėtų įtvirtinti tapatybę ir taip sumažinti robotų tinklų naudojimą.

Tačiau MacKinnonas prieštaravo, kad žmogaus teisių aktyvistai yra labiausiai pažeidžiami dėl tokių sistemų naudojimo, nes jei jūs įtvirtinsite tapatybę, socialiniuose tinkluose nebus niekas, kas priešinasi autoritarinei vyriausybei.

Jungckas domėjosi, kodėl mums reikia įtvirtinti tapatybę, kai svetainės jau žino, kas tu esi ir ką ketini pirkti. „Internete nėra anonimiškumo, jo jau seniai nebėra“, - sakė jis. Vienintelis skirtumas yra tas, kiek laiko reikia išsiaiškinti, kas jūs esate.

Baigdamas norėčiau pasakyti, kad MacKinnon teigė esanti optimistiška per labai ilgą laiką, tačiau artimiausius 100 metų „ne tiek“.

Klausant viso to, lengva būti pesimistiškam ar bent jau fatalistiškam dėl reikalingo reguliavimo kiekio ir jo daromo poveikio. Tačiau aš vis dar esu linkęs būti optimistas ir, manau, kad šiek tiek papildomo reguliavimo yra ir tikėtina, ir reikalinga, aš tikiu, kad tokia pati tikimybė yra, kad šiandieniniai interneto milžinai ar kai kurie būsimi žaidėjai pateiks geresnius atsakymus.

Kaip tikėtina, kad rekomenduosite PCMag.com?