Svært problematisk filming av ungdom

Hvor trygt er egentlig MyGame?

Finn Jarle Kvalheim

Finn Jarle har testet mobiler og andre dingser for Amobil, og etter hvert Tek, siden 2009. Før den tid jobbet han med salg av elektronikk og studerte medievitenskap på Universitetet i Bergen.

Publisert 7. januar

Det er store problematiske sider ved at selskapet MyGame skal filme ungdomsidrett i haller der også barn trener. De skal gjøre det med automatiske kamera styrt av kunstig intelligens, før innholdet kan abonneres på som en «Netflix for ungdomsidretten».

Når noen som skal filme tenåringer påstår at filmingen skal styres av kunstig intelligens på områder der også barn driver med idrett, er det et rødt flagg på størrelse med Nord-Koreas på grensen til sør.

Det det egentlig betyr er at få, om noen, skal føre jevnlig kontroll med bildene. At kostnadene i det mye omtalte MyGame-prosjektet forsøkes holdt begrenset bare til utstyret.

Rettelse, 10. januar, 17.10: I opprinnelig utgave av denne kommentaren ble det stilt spørsmål ved om kunstig intelligens skal avgjøre om spillere som filmes er gamle nok. MyGames sportsdirektør Bernhard Steen forteller til Tek at kunstig intelligens kun brukes til å styre videostrømmen rundt spillet - den tar ingen avgjørelser om hvilke spillere som filmes. Kameraene skrus av og på basert på hvem som spiller i kampen. Han forklarer også at programvaren som styrer videostrømmen er deres egen, med selvutviklet kunstig intelligens - dermed stammer ikke den kunstige intelligensen fra kameraprodusenten.

Et spørsmål om kunstig intelligens bør ha ansvaret for å skille mellom en tiåring og en femtenåring er tatt bort fra kommentaren som del av rettingen, ettersom det altså ikke er programvarens oppgave.

Det utstyret viser seg på toppen av det hele å kunne være av samme type som medvirker til menneskerettighetsbrudd mot uigurene, fra den kinesiske leverandøren Hikvision.

Produsenten selv har benektet påstandene, men har siden blitt bannlyst av hensyn til rikets sikkerhet i USA. Det har blitt gjort tiltak mot selskapets kamera også i England og India.

Her på berget skal smartkameraene altså filme ungdom. Og de lover at det ikke skal filme barn med begrunnelser så konkrete som «kunstig intelligens» og at «idrettens systemer» skal skru kameraene av og på.

Det ble oppstuss rundt juletider da det for alvor ble kjent at tjenesten var i drift, i forbindelse med at et slagsmål der en 12-åring var involvert hadde endt opp i bildestrømmen fra MyGame. I etterkant hadde bildene ligget ute lenge. Systemene skal egentlig bare filme de rundt 100.000 kampene i 15-årsklassen og oppover, der ungdom ned til 13 år deltar.

12-åringer er som kjent ganske mye yngre enn 15-åringene det ved første ørekast høres ut som MyGame skal begrense seg til.

Til tross for at den nåværende dekningen eksploderte på tampen av fjoråret, har det vært støy rundt MyGame lenge. I fjor vår varslet Stine Sofies stiftelse at de mente MyGame-plattformen var en mulig ny arena for mobbing og overgrep.

Det er helt urimelig å mene at kunstig intelligens skal overta for noen form for redaktørrolle i dag. Alt fra bilprodusenter til mobilprodusenter har i årevis klistret «kunstig intelligens»-merkelappen på alle mulige produkter. Og det virker - sånn passe. Samtidig er det helt i orden hvis smarthjemmet ditt bommer på når du er hjemme og glemmer å skru opp varmen med fem grader.

Så lenge vi bruker kunstig intelligens til bagateller blir også bommertene til å leve med.

Mange vil ha hørt om ting som smarte chatroboter og nettsteder som kan lage kunst basert på ord du skriver til dem. Det ser fornuftig ut, til du ofrer det en ekstra tanke og ser litt nærmere etter.

En mengde mer og mindre morsomme lister på internett viser hvor banalt bildetjenestene kan trå feil når de forøker å lage bilder av mennesker.

Slike tjenester er fortsatt imponerende. De er spydspissene, de er det lengste vi har kommet i maskinlæring og AI. Men teknologien er ikke ferdig.

Om vi stoler på kunstig intelligens eller ikke avhenger også av hvem som har laget systemet, og hvordan det virker.

Og her blir det komplisert. For mens vi vet at kameraene som er valgt kommer fra Hikvision, står følgende å lese på MyGames nettsider:

«MyGame har ikke knyttet seg opp til én leverandør av kameraer, kunstig intelligens eller maskinlæring. Fordi forholdene er så ulike fra arena til arena, og behovene er forskjellige i elite- og breddeidrett, vil MyGame til enhver tid optimalisere og velge den best egnede løsningen for det enkelte sted.»

For det første er det atter et tegn på at selskapet enten ikke vet, eller er uvillige til å informere godt om hva de holder på med.

For det andre står valget her mellom uregjerlig kompleksitet, med mange ulike systemer og feilkilder - og - en tvilsom leverandør der programvare, kamera og bakenforliggende kunstig intelligens kan ha blitt brukt som ledd i fengsling og «omskolering» av kinesiske uigurer.

Det er i grunnen et valg mellom pest og kolera. Kanskje ikke så rart MyGame ikke er så interessert i å gå i detalj.

For hvem vet hvor Hikvision behandler dataene. Skjer det lokalt i hallen? Kan man vite sikkert at kameraene ikke «ringer hjem» med bilder eller annen informasjon nå og da?

MyGame sier selv at kameraene ikke er koblet til internett. Kun til en PC som redigerer bildene og sender dem inn til en av flere mulige skytjenester.

Men jeg tør vedde på at den tjenesten er tilkoblet internett og kjører programvare fra Hikvision for å drive kameraene. Hva den programvaren gjør er like usikkert som om kameraene hadde hatt sin egen internettplugg.

Det ble store kontroverser rundt det da Huawei i praksis ble tvunget vekk fra vestlige markeder - med relativt begrenset bevismateriale. Men her er både menneskene som er «brukere» av teknologien en sårbar gruppe, og koblingen til ting vi ikke ønsker å alliere oss med her til lands virker sterkere.

Avhengig av hvor mye av det som kommer fra Hikvision fremover, og om USA og flere andre lands påstander om selskapet er sanne.

Hvis det i stedet er ulike systemer, slik MyGame hevder, så er heller ikke det bra. Ulike systemer gjør ulike vurderinger. Det åpner for at én feil kan skje i den hallen, mens en annen type feil kan skje i den andre.

Å fikse og samkjøre at ikke en feil skjer mange ganger på rad - må gjøres én gang per system som er brukt, og potensielt én gang per måte det systemet er brukt på. Å holde dette feilfritt og ved like virker som en vanskelig oppgave.

Det kan muligens sammenliknes med om et stort flyselskap hadde brukt en egen modell fly for hver eneste rute de fløy, med det vanvittige mekanikerteamet de hadde måttet ha for å holde flåten på vingene.

Ett av argumentene som gjerne fremføres omkring MyGame-saken, er at det allerede filmes utenfor reglement eller reguleringer. Ungdomskampene blir kringkastet, og det kan være av hvem som helst, hvor som helst.

Derfor, påstås det, at det er bedre at MyGame kan filme, og ha alt på sin plattform - under faste reguleringer og regler.

Vi vet allerede at AI-plattformen deres ikke nødvendigvis følger de reglene. Det har de demonstrert i praksis.

Men det som også er en viktig forskjell fra tilfeldig kringkasting av en kamp her og der, er at MyGame samler alt på én plattform.

Hvordan se en femtenåring - eller et tilfeldig barn - på andre siden av landet? Det er så enkelt som et «Netflix-abonnement» unna.

Hva skal en fremmed voksenperson med bildene av noen andres barn? For den muligheten ligger her. Her kan noen chatte med ditt barn på Snap den ene kvelden, og se det skifte overdel på sidelinja den neste dagen.

Hvis du som potensiell overgriper, groomer eller bare - mobber - ønsker å se noen andres barn spille ball hjelper det ikke så mye at det foregår ureglementær filming av barnets venner eller familie.

Hvordan skal du finne det innholdet?

Det vil være delt av forskjellige brukere. Det har kanskje ingen annen tittel enn «Se på fammen min, da!». Det kan ligge på Twich, Youtube, Facebook Live, TikTok Live eller på andre tjenester.

I praksis vil det være skjult av obskuritet. Og det er en god ting, når vi snakker om så unge mennesker.

Så får det heller være at MyGame sier at unge som av forskjellige grunner har hemmeligholdt adresse og nummer automatisk er reservert mot tjenesten. Den skal være vasket mot folkeregisteret, står det på sidene deres å lese.

Og enn om du bare ikke vil på internett i systematisk, tydelig merka og optimalisert form?

Da må du faktisk vite om at hallen du er i filmer deg, og du må ha tatt aktivt stilling og sagt nei for å slippe. Det er såkalt «opt out», som er en langt mer problematisk løsning for etiske hengemyrer som denne enn «opt in» der du stiller deg frivillig.

Tenk om du måtte velge bort medisinske forsøk på sykehus. Nettopp. Det er derfor de er «opt in».

Selskapet sier at reservasjonen mot filming er anonym. Men blir det i praksis det, når resten av laget kanskje lurer på hvorfor de nye draktene MyGame-avtalen skulle betalt for uteblir?

Gjennom tre avsnitt som svar på bekymringer rundt dette klarer ikke MyGame riktig si annet enn at de tar spørsmålet på alvor og at de har møter med Redd Barna om det. Det er forøvrig ikke første gang «møter» blir brukt som forklaring på at MyGames virksomhet er stueren.

Målrettede invitasjoner fra barnas foresatte til et begrenset antall nær familie eller venner kunne avhjulpet de problematiske sidene ved MyGame-prosjektet. Det samme kunne aktivt, menneskelig overoppsyn med opptakene gjort. Men det ene ville begrenset inntjeningen kraftig, og det andre ville kostet penger.

Og for et selskap som tar tvilsomme etiske og teknologiske avgjørelser, og oppå det hele har lyst til å stikke av med 80 prosent av penga, mens klubbene som skaper innholdet bare får 20 prosent ...

Er duften av knapper og glansbilder til småsporten nok til å rettferdiggjøre dette her?