Machine-learning:
Bias In, Bias Out

Toon Calders, UAntwerpen
28 mei 2021, online
Seminariereeks ‘Sense & Sensibility of AI’

Kunstmatige intelligentie staat meer en meer in voor beslissingen die een enorme impact hebben op ons leven. Maar voorspellingen, gemaakt met behulp van datamining en algoritmes, kunnen subgroepen in een populatie op een verschillende manier beïnvloeden. Academische onderzoekers en journalisten hebben aangetoond dat beslissingen genomen door voorspellende algoritmes, soms tot vertekende uitkomsten leiden doordat ze ongelijkheden reproduceren die al in de samenleving aanwezig zijn.

Is het mogelijk om een ​dataminingproces te creëren dat zich wel bewust is van eerlijkheid? Zijn algoritmen bevooroordeeld omdat mensen dat ook zijn? Of ligt het aan de manier waarop machine learning werkt op het meest fundamentele niveau?

Dit seminarie ‘Machine-learning: Bias In, Bias Out’, is het eerste van onze nieuwe maandelijkse seminariereeks ‘Sense & Sensibility of AI’, ontwikkeld door de Vlaamse AI Academie in de schoot van haar netwerk.

Toon Calders

Toon Calders is professor aan de informatica-afdeling van de Universiteit Antwerpen. Zijn onderzoek concentreert zich op datamining en machine learning.
Hij is redacteur van het tijdschrift Data Mining en was programmavoorzitter van een aantal datamining- en machine learning-conferenties, waaronder ECML / PKDD 2014 en Discovery Science 2016.
Toon Calders onderzocht als een van de eersten hoe algoritmische vooroordelen bij machine learning gemeten en voorkomen kunnen worden. Hij is ook een van de redacteurs van het boek ‘Discrimination and Privacy in the Information Society – Data Mining and Profiling in Large Databases‘, uitgegeven door Springer in 2013.
Momenteel leidt hij een groep van 6 onderzoekers die theoretische aspecten van eerlijkheid in machine learning bestuderen. Ze onderzoeken praktische use cases in samenwerking met de Vlaamse belastingdienst, openbare welzijnsorganisaties en een verzekeringsmaatschappij.

Praktisch

  • 28 mei 2021, 11-12u
  • Locatie: online
  • Contact: Laura Alonso
    laura.alonso@vlaamse-ai-academie.be
  • Taal: Engels
  • Doelgroep: onderzoekers met inzicht in de technische aspecten van AI & machine learning

Inschrijven?

  • Inschrijvingen gesloten
  • Voorwaarden: masterdiploma
  • Prijs: gratis

Sense & Sensibility of AI

Seminariereeks over Ethiek in AI: Eerlijkheid, Privacy & Betrouwbaarheid

AI heeft een steeds grotere invloed op ons dagelijks leven, voorbeelden hiervan zijn de automatisering van sommige belangrijke beslissingen, zoals hypotheken en leningen, of de automatische beoordelingen van borgtochtrisico of de vele aanbevelingen op het internet. Al deze AI-systemen dragen risico op ‘filter bubbels’ en polarisering met zich mee. Terwijl AI in de samenleving wordt uitgerold, schuift ook de discussie over onze waarden naar de voorgrond: Hoe sluiten AI-gebaseerde systemen erop aan en welke invloed oefenen ze erop uit? Dit debat vraagt ​​om een ​​multidisciplinaire blik, waarbij zowel technische als niet-technische invalshoeken een prominente plaats innemen. We gaven de computer senses, zintuigen, maar hoe geven we hem ook sensibility, gevoel?

In de seminariereeks ‘Sense & Sensibility of AI’ richten we ons op PhD-studenten om over de verschillende aspecten van Ethiek in AI te leren – niet alleen om zich ervan bewust te zijn, maar ook om over de impact van AI op de maatschappij te leren en om methodologieën aan te leren waarmee zij ethische problemen kunnen identficeren, inschatten en mogelijk ook op te lossen. Deze maandelijkse seminaries pakken onderwerpen aan zoals vooroordelen en eerlijkheid, privacy, betrouwbaarheid en het balanceren van technische, sociale en wetgevende perspectieven.

Deze serie mikt op doctoraatsstudenten actief in het brede veld van AI en datawetenschap. Om de lezingen volledig te kunnen begrijpen, kan een achtergrond in de technische aspecten van AI/Machine Learning nodig zijn.

Sense & Sensibility of AI is een seminariereeks ontwikkeld door de Vlaamse AI Academie, in samenwerking en met de steun van al onze partners, alle universiteiten en hogescholen in Vlaanderen en Kenniscentrum Data & Maatschappij.

Schrijf je in

De inschrijvingen zijn gesloten.