Nepavyksta 10 nepatogaus algoritmo

Technologija nėra skirta tik geeks, ji taikoma visiems, ir tai yra daugybė žmonių. Tik nedaugelis kompanijų, kontroliuojančių daugumą aparatinės ir programinės įrangos (nuo „Apple“ ir „Amazon“ iki „Facebook“, „Microsoft“ ir „Google“), gali padaryti tik tiek, kad kontroliuotų jūsų piniginę ir akių obuolius. Ką turi padaryti neturtinga milžiniška korporacija? Priimkite keletą svarbių sprendimų naudodamiesi algoritmais.

„Oksfordo gyvenimo žodynai“ algoritmą apibūdina kaip „procesą ar taisyklių rinkinį, kurio reikia laikytis atliekant skaičiavimus ar atliekant kitas problemų sprendimo operacijas, ypač atliekant kompiuterį“. Puikus pavyzdys yra „Facebook“ naujienų kanalas. Niekas nežino, kaip tai veikia, kai kurie jūsų įrašai rodomi kai kurių žmonių naujienų sklaidos kanaluose, ar ne, bet „Facebook“ tai daro. Arba kaip „Amazon“ rodytų jums susijusias knygas? Susijusios paieškos „Google“? Visa tai yra kruopščiai saugomos paslaptys, kurios daro daug darbo įmonės labui ir gali turėti didelę įtaką jūsų gyvenimui.

Tačiau algoritmai nėra tobuli. Jie žlunga, o kai kurie sužavi įspūdingai. Pridėkite prie socialinės žiniasklaidos akiračio ir mažas trūkumas gali greitai virsti PR košmaru. Tai retai būna kenkėjiška; tai paprastai yra tai, ką „The New York Times“ vadina „Frankenšteino akimirkomis“, kur kažkieno sukurtas padaras virsta monstru. Bet taip atsitinka, ir žemiau mes pateikėme keletą rimtiausių pastarojo meto pavyzdžių. Praneškite mums apie savo mėgstamiausius komentarus žemiau.

1 „Instagram“ abejotinos reklamos

Kaip pranešė „ The Guardian“ , „Facebook“ mėgsta rodyti savo „Instagram“ paslaugos skelbimus su savo vartotojų įrašais. Tačiau algoritmas pasirinko neteisingą „nuotrauką“, kad pastūmėtų Olivia Solon, pačios „ The Guardian“ žurnalistės, draugus, pasirinkdamas metų senumo ekrano kopiją, kurią ji paėmė iš grasinančio el.



2 tikslinės rasistinės reklamos

Praėjusią savaitę „ProPublica“ pranešė, kad „Facebook“ leido reklamuotojams nusitaikyti į įžeidžiančias žmonių grupes, pavyzdžiui, „žydų nekenčiantys žmonės“. Svetainė sumokėjo 30 USD už skelbimą (aukščiau), skirtą auditorijai, kuri teigiamai reaguos į tokius dalykus kaip „kodėl žydai žlugdo pasaulį“ ir „Hitleris nepadarė nieko blogo“. Jis buvo patvirtintas per 15 minučių.

Šiferis rado panašias įžeidžiančias kategorijas, ir jis tapo dar vienu ilgoje prekių eilutėje, kurioje „Facebook“ turėjo ne tik atsiprašyti, bet ir pažadėti ją sutvarkyti su tam tikra žmogaus priežiūra. Žinote, pavyzdžiui, kai ji padėjo 100 000 USD vertės rinkimų skelbimus Rusijai.

„Facebook“ įraše COO vadovė Sheryl Sandberg teigė, kad yra „nusivylusi ir nusivylusi šiais žodžiais“, ir paskelbė apie jos skelbimų priemonių pakeitimus.

„BuzzFeed“ patikrino, kaip „Google“ elgsis panašiai, ir nustatė, kad taip pat lengva nustatyti tikslinius skelbimus, kuriuos rasistai ir bigotai galėtų pamatyti. „The Daily Beast“ patikrino tai per „Twitter“ ir rado milijonus skelbimų, kuriuose buvo naudojami tokie terminai kaip „nacis“, „slaptas viršelis“ ir „N“ žodis.



3 „Facebook“ metai apžvalgos blogybėse

Jei esate „Facebook“, jūs, be abejo, matėte jos metų pabaigos algoritmų sugeneruotus vaizdo įrašus su svarbiausiais paskutinių 12 mėnesių elementais. Arba kai kuriems - silpnas apšvietimas. 2014 m. Vienas tėvas pamatė velionės dukters nuotrauką, o kitas liepsnose matė savo namų vaizdus. Kiti pavyzdžiai yra žmonės, matantys savo velionį augintinį, urnos, pilnos tėvų pelenų, ir mirę draugai. Iki 2015 m. „Facebook“ pažadėjo išfiltruoti liūdnus prisiminimus.

• 4 „Tesla“ autopiloto avarija

  Daugybė algoritminių kliūčių dar nėra mirtinos, tačiau savarankiškai važiuojančių automobilių pasaulis sukels visiškai naują pavojaus lygį. Tai jau bent kartą nutiko. „Tesla“ savininkas Floridos greitkelyje naudojo pusiau autonominį režimą („Autopilotas“) ir sudužo į traktoriaus priekabą, kuri jį nutraukė. „Tesla“ greitai išleido atnaujinimus, tačiau ar tai tikrai buvo „Autopiloto“ režimo kaltė? Nacionalinė greitkelių eismo saugumo administracija sako, kad galbūt ne, nes sistema reikalauja, kad vairuotojas budėtų dėl problemų, kaip matote aukščiau esančiame vaizdo įraše. Dabar „Tesla“ neleidžia „Autopilot“ įsijungti, jei vairuotojas pirmiausia nereaguoja į vaizdinius nurodymus.



5 Apžvelkite rasistinę „Microsoft AI“

Prieš porą metų pokalbių robotai turėjo užvaldyti pasaulį audra, pakeisdami klientų aptarnavimo atstovus ir paversdami internetinį pasaulį pokalbio vieta, kur gauti informacijos. „Microsoft“ atsakė 2016 m. Kovo mėn. Išstumdama AI, pavadintą Tay, kad žmonės, ypač 18–24 metų, galėtų bendrauti „Twitter“. Tay'as savo ruožtu padarytų viešas tviteris mišioms. Tačiau per mažiau nei 24 valandas, mokydamasis iš pragaištingų masių, Tay tapo visaverčiu rasistu. „Microsoft“ akimirksniu atitraukė „Tay“; ji grįžo kaip nauja AI, vardu Zo, 2016 m. gruodžio mėn., turėdama „tvirtus patikrinimus ir balansą, kad apsaugotų ją nuo išnaudojimo“.



6 sveikinimai jūsų (neegzistuojančiam) kūdikiui!

Visas informacijos atskleidimas: Rašydama tai, mano žmona iš tikrųjų yra nėščia. Abu gavome šį el. Laišką iš „Amazon“, sakydami, kad kažkas mums nupirko ką nors iš savo kūdikių registro. Mes dar nepaskelbėme jo viešai, tačiau jis nebuvo toks šokiruojantis. Tuo tarpu keli milijonai kitų „Amazon“ klientų taip pat gavo tą patį užrašą, įskaitant kelis be registro… ar pakeliui kūdikį. Tai galėjo būti sukčiavimo schemos dalis, tačiau taip nebuvo. „Amazon“ sugavo klaidą ir atsiuntė tolesnį atsiprašymo el. Laišką. Iki to laiko daugelis skundėsi, kad tai netinkama ar nejautri. Tai buvo mažiau algoritmas nei gedulingas el. Pašto serveris, tačiau parodo jums, kad visada lengva įžeisti.



7 „Amazon“ rekomenduoja „bombų medžiagą“

Visi šoktelėjo po to, kai apie tai pranešė JK „Channel 4 News“, nuo „ Fox News“ iki „ The New York Times“ . Tariamai nustatyta, kad „Amazon“ dažnai „perkama kartu“ funkcija žmonėms parodys, ko jiems reikia norint sukurti bombą, jei jie pradėti nuo vieno iš ingredientų, kurių svetainė nepavadintų (tai buvo kalio nitratas).

Tai, ką iš tikrųjų padarė „Amazon“ algoritmas, buvo pirkėjams parodyti ingredientai, iš kurių gaminami juodi milteliai nedideliais kiekiais, o tai yra visiškai legalu Jungtinėje Karalystėje ir naudojami įvairiems dalykams, pavyzdžiui, fejerverkams, kaip greitai buvo pasakyta neįtikėtinai gerai apgalvotame- iš „Idle Words“ tinklaraščio įrašo. Vietoj to, visos ataskaitos yra apie tai, kaip „Amazon“ į tai žiūri, nes būtent tai jie turi pasakyti, kad jie daro pasaulį, bijodami terorizmo ir logikos.



8 „Google Maps“ rasistas

2015 m. „Google“ turėjo atsiprašyti, kai „Google Maps“ ieško „n ***** king“ ir „n *** a house“, vedančių į Baltuosius rūmus, kuriuos tuo metu vis dar užėmė Barackas Obama. Tai atsirado dėl „Googlebomb“, kuriame paieškos variklis vėl įvardija terminą, kuris naudojamas pakartotinai, ir pažymimas kaip „populiarus“, todėl rezultatai patenka į paieškos viršų. Štai kaip žodis „Santorum“ įgavo naują apibrėžimą.



9 „Google“ žymi žmones kaip Gorilus

„Google“ nuotraukos yra nuostabi programa / paslauga, kurioje saugomos visos nuotraukos ir dar daugiau. Vienas iš tų dalykų yra automatiškai žymėti žmones ir daiktus nuotraukose. Jis naudoja veido atpažinimą žmonėms, kad susiaurintų juos iki tinkamo žmogaus. Aš net turiu visų savo šunų aplanką ir nė vieno iš jų nepažymėjau. Nesvarbu, kaip tai veikia, buvo baisiausia, kai 2015 m. „Google“ turėjo atsiprašyti kompiuterių programuotojo Jacky Alciné, kai jis ir draugas - abu jie juodaodžiai - buvo pripažinti tarnyba gorilomis. „Mes apstulbę ir nuoširdžiai atsiprašome, kad taip atsitiko“, - „Google“ pasakojo PCMag.



10 robotų apsaugos vaikų, žudo save

„Knightscope“ padaro autonominius saugumo robotus, vadinamus K5, patruliavimui mokyklose, prekybos centruose ir apylinkėse. 5 pėdų aukščio „Dalek-esque“ kūgiai ant ratų - kurie, jų įsitikinimu, vis dar testuojami beta versijoje - linkę skelbti naujienas ne dėl nusikalstamumo sukėlimo, bet dėl ​​trikdžių.

Pavyzdžiui, 2016 m. Liepos mėn. K5 Stanfordo prekybos centre Palo Alto mieste važiavo per 16 mėnesių koją, o „Knightscope“ turėjo oficialiai atsiprašyti. Ta pati vieta - galbūt tas pats droidas - automobilių stovėjimo aikštelėje buvo apsvaigusi nuo svaigalų, tačiau bent jau tai nebuvo K5 kaltė. Žiuri vis dar dirba „K5“ padalinyje, esančiame Džordžtauno krantinėje, biurų / prekybos komplekse Vašingtone… kad vienas tariamai užlipo kai kuriais laiptais į vandens fontaną tik po vienos savaitės darbo. Tai nelabai tinka „Skynet“ armijai.