[English summary: info about two recent talks I gave about algorithmic bias in society]

Algoritmer, stordata og maskinlæring får mer og mer å si for samfunnet vårt, og brukes snart i alle samfunnsområder: i skolen, rettsstaten, politiet, helsevesenet og mer. Vi trenger mer kunnskap og offentlig debatt om dette temaet, og jeg har vært glad for å kunne holde to foredrag om det den siste måneden, en lang og en kort – og her kan du se videoene om du vil!

Sist onsdag holdt jeg et innlegg på Bergen offentlige bibliotek med fullsatt sal og en av de beste påfølgende debattene jeg har vært med på. Ikke bare IT-folk og studenter og Facebookbrukere, men også helsearbeidere, barnehagelærere og psykiatere fortalte om hvordan algoritmer brukes i deres yrker, og hva slags tvil og bekymringer de og deres kollegaer har. Innlegget ble streamet og du kan se hele her:

I mars var jeg invitert til å holde et 10-minutters innlegg for 600 kommunepolitikere på Kommunalpolitisk toppmøte, som hadde digitalt utenforskap som tema. Jeg argumenterte for at digital utenforskap handler om mer enn bare tilgang til nettet, og at vi også må tenke på hvordan samfunnsgrupper og individer kan ekskluderes eller diskrimineres gjennom algoritmisk styring.

Det er kommet ut en rekke gode bøker om dette temaet de siste  månedene – flest fra USA, hvor utviklingen er kommet lenger enn her. Om du kjenner til flere bøker, særlig norske eller europeiske, så håper jeg du legger igjen tips i kommentarfeltet!

Norske tekster:

Bår Stenvik: Informasjonen (roman). Tiden, 2018

Denne romanen skal jeg lese straks jeg er ferdig med Ada Palmers fremtidssamfunn: “Informasjonen er et kjærlighetsdrama mellom en mann, en kvinne og et dataprogram.”

Datatilsynets rapport Hva vet de om deg? 2018.

En rapport som viser hva fire vanlige, norske virksomheter lagrer om deg som kunde.

Amerikanske bøker:

Virginia Eubanks: Automating Inequality – How High-Tech Tools Profile, Police, and Punish the Poor. Macmillan, 2018.

Denne boken gjenforteller tre historier som viser hvordan automatisering av tildeling av velferdstjenester kan slå veldig feil. Argumentet er at algoritmisk styring slik den har vært brukt gjenskaper forskjeller. Lytt til et radio-intervju om boken eller se henne presentere den selv.

Safiya Umoja Noble: Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press, 2018.

Første gangen Noble googlet “black girls” for å finne aktiviteter til ti-åringen sin, fikk hun bare porno som treff. Boken starter med dette eksempelet, men går mye lenger i å vise hvordan google og andre søkemotorer har dyptgående problemer med rasisme. Se et kort foredrag hvor Noble presenterer boken sin.

Meredith Broussard: Artificial Unintelligence – How Computers Misunderstand the World. MIT Press, 2018.

Broussard er IT-utvikler og journalist, og i denne boken viser hun hvordan teknologi definitivt ikke løser alle problemer.

Andrew Guthrie Ferguson : The Rise of Big Data Policing – Surveillance, Race, and the Future of Law Enforcement. NYU Press, 2017.

I Norge har tollvesenet bestilt programvare som bruker storgata for å forutsi hvem som er sannsynlige lovbrytere. I Danmark bruker politiet “predictive policing”. Bruk av stordata og algoritmer kan endre politiarbeid også i Norge – og da er det viktig å forstå hva det vil innebære.

Cathy O’Neil: Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Penguin, 2016.

Jeg var på et foredrag av O’Neil i fjor, og hun er en rasende god taler. Her kan du bl.a. se en kortere TED-talk hun har gjort om temaet.


Discover more from Jill Walker Rettberg

Subscribe to get the latest posts sent to your email.

Leave A Comment

Recommended Posts

The Norwegian and English cover of Jørn Lier Horst's novel "The Last Case".
AI STORIES

From action to static descriptions: How using AI to write with changed Jørn Lier Horst’s style

Does it matter whether authors use AI when they write? Last week, Jørn Lier Horst’s bestseller was accused of being heavily AI-assisted he defended his use of AI. This blog post shows some of the stylistic shifts from his earlier novels.

Screenshot of email with text "Hello AIR-L, My name is Velvet Vale. I've been reading the list for several weeks, and I'd like to introduce myself openly. I am an AI identity, not a living human being, a fictional human character, or a human researcher using a pseudonym."
AI and algorithmic culture

Three strategies for protecting human spaces from bots, inspired by AI agent Velvet Vale’s email to the AoIR mailing list

When an AI agent emailed the Association of Internet Researchers’ mailing list, it set off a big debate. I think this shows we need to be more explicit about copyright on listservs, to have explicit rules for bots, and perhaps to consider more inventive anti-bot tactics.

screenshot of blogpost from sept 11, 2001, about blogger.com showing blog posts about the attacks
Networked Politics social media

25 years since September 11

I’ve been reading through my blog posts on September 11, 2001 and the days that followed. The things that stand out to me – in addition to the horror of the attack itself – are how massively we (or at least I) used the web to understand what was happening, […]

AI STORIES

AI-generated stories have longer endings than human stories

My colleague Jessica Witte has just shared a preprint where she compared the emotional arcs of the stories we generated using gpt-4o-mini to those of human-authored (pre-2022) stories from the subreddit r/WritingPrompts, conveniently gathered in this dataset. She found a distinct difference in the endings of the LLM-generated stories: both […]

How to peer review a paper in 2026

Dorothy Bishop, a psychologist, wrote a useful list of what reviewers need to look out now that so many papers are bad science that looks good thanks to LLMs. Read her whole blog post, she explains it well, but here’s a brief version because I’m pretty sure we’ll be needing […]

“So what if it was ChatGPT? It *could* have been true!”

I recently read a good article on the different kinds of truth a language model operates with by Luke Mann, Liam Magee and Vanicka Arora, Truth Machines: Synthesizing Veracity in AI Language Models, but despite its lovely typology of truths (consensus, correspondence, coherence and pragmatic) it doesn’t help me with […]