En Roomba tog video af en kvinde, der brugte badeværelset - og skærmbilleder endte online

De lækkede skærmbilleder får mange til at undre sig over, hvor meget data deres smarte enheder indsamler, og hvordan det bruges.

Roombas eller andre robotstøvsuger for den sags skyld, kan være en livredder for forældre, der har for meget at jonglere med og har brug for lidt hjælp til at rydde op i huset. Men for enhver teknologisk bekvemmelighed og 'livredder', som vi får, ser der ud til at være mere og mere lumske afvejninger, når det kommer til at tillade smarte enheder at overvåge og indsamle data på flere måder.

Et eksempel på det? Billeder af en kvinde, der bruger et toilet - taget af en testmodel Roomba, der bruger video som en måde at forbedre robottens evne til at navigere rundt i forskellige plantegninger og forhindringer - blev lækket til private Facebook-grupper.

japansk navn, der betyder prinsesse

Testmodellen blev designet til at tage video, mens den rensede, og derefter sende nævnte video til Scale AI, en startup, der kontrakterer arbejdere globalt for at hjælpe med at mærke lyd-, foto- og videodata (kendt som dataannotering) for at hjælpe med at træne kunstig intelligens.

'Hvordan bliver vores robotter så smarte? Det starter under udviklingsprocessen, og som en del af det, gennem indsamling af data for at træne maskinlæringsalgoritmer,” forklarede Colin Angle, administrerende direktør, bestyrelsesformand og grundlægger af iRobot i en LinkedIn indlæg . 'Indsamling af disse data gør os i stand til at opbygge intelligensen inde i vores produkter, der driver funktioner som genkendelse og undgåelse af objekter, rumidentifikation og tilpassede rengøringsforslag.'

Tilsyneladende er det meningen, at disse private data kun skal bruges til træning, men MIT'er Teknologigennemgang indhentet 15 skærmbilleder, der var blevet lagt ud i private Facebook-grupper. Der var billeder af børn, der lå på gulvet og gav robotstøvsugeren et dumt blik, sammen med billedet af en kvinde, der brugte toilettet. Og mens hendes ansigt er sløret ud på hovedbilledet, er der andre, der fuldt ud viser hende i en vild krænkelse af privatlivets fred.

similac recall.com 2022

Selvom disse billeder blev opnået fra teststøvsugere, som Roomba-ansatte og andre gav samtykke til at bruge i deres husholdninger, er de lækkede billeder en skarp påmindelse om, hvor hurtigt mange mennesker melder sig ud for at få deres data overvåget med smarte enheder - og hvordan disse data i sidste ende spores af mennesker, der kunne lække eller bruge dataene til andre formål, end det var tiltænkt.

'Når du har data, som du har fået fra kunder, ville de normalt ligge i en database med adgangsbeskyttelse,' fortalte Pete Warden, en førende computersynsforsker og ph.d.-studerende ved Stanford University. Teknologigennemgang .

Med maskinlæringstræning, som den der bruges i testenheden Roombas, er kundedata alle kombineret 'i en stor batch', hvilket udvider 'kredsen af ​​mennesker', der får adgang til dem.

For at AI kan lære, hævder dataannoteringstjenester, at de har brug for adgang til menneskelige ansigter. Både voksnes og mindreåriges ansigter betragtes ikke som 'følsomme' former for data og sendes ofte til datacentre uden at blive censureret. Og som nogle mennesker har erfaret, kan disse data sælges til tredjeparter og bruges på andre måder, som da en kvinde blev nægtet adgang til Radio City Hall med sin datters pigespejdertrop på grund af ansigtsgenkendelse .

Med jul kun få dage væk, er det måske et godt tidspunkt for forældre at tale med deres børn om datasikkerhed og digitalt privatliv , især hvis julemanden medbringer børnene smarte enheder. Og generelt skal du læse det med småt, når du accepterer at dele dine data med virksomheder.

Del Med Dine Venner:

mennesker har 3 hjerner