In deze snel veranderende tijden overwegen meer en meer bedrijven om een deel van hun beslissingsprocessen te laten afhangen van Artificial Intelligence. Tegelijk heb je een groeiend aantal bedrijven dat hiervan afwijkt en de investeringen hierin on hold plaatst omwille van enerzijds de complexiteit en anderzijds de ethische kwestie waarbij een zogenaamde blackbox beslissingen maakt die soms moeilijk te interpreteren vallen.
Eerst en vooral, wat is AI? De EU heeft hier een definitie rond vastgelegd als volgt:
“Artificial intelligence (AI) systems are software (and possibly also hardware) systems designed by humans3 that, given a complex goal, act in the physical or digital dimension by perceiving their environment through data acquisition, interpreting the collected structured or unstructured data, reasoning on the knowledge, or processing the information, derived from this data and deciding the best action(s) to take to achieve the given goal. AI systems can either use symbolic rules or learn a numeric model, and they can also adapt their behaviour by analysing how the environment is affected by their previous actions.
As a scientific discipline, AI includes several approaches and techniques, such as machine learning (of which deep learning and reinforcement learning are specific examples), machine reasoning (which includes planning, scheduling, knowledge representation and reasoning, search, and optimization), and robotics (which includes control, perception, sensors and actuators, as well as the integration of all other techniques into cyber -physical systems).”
https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines
Eén van de beste voorbeelden om de problematiek rond AI en de impact van de daarop gebaseerde beslissingen, zit in het toekomstbeeld rond zelfrijdende wagens. Stel dat je wagen de keuze moet maken rond mensenlevens. Je rijdt op de snelweg en dreigt frontaal op een tegenligger te botsen. Jouw overlevingskans is 0%... Stel dat de wagen kan berekenen dat je door uit te wijken je overlevingskans naar 60% kan verhogen, maar hierdoor een gezin in een andere wagen zou aanrijden met fatale gevolgen, wat is dan de beste keuze? Is één leven meer waard dan dat van 2-3 andere? Kan je de technologie hierover laten beslissen? En dan hebben we het, los van het morele aspect, nog niet over verzekeringen gehad.
Anderzijds zou je kunnen redeneren of een mens wel rationeel in staat is om bovenstaande keuze beter te maken. Misschien is AI in de toekomst zelf zo ver gevorderd dat hij in het kind van het gezin een toekomstige wereldleider herkent en hierdoor op termijn duizenden levens kan redden.
Ook Europa denkt na over de ethische kwesties en heeft deze in guidelines vastgelegd om een referentiekader te scheppen. https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines
Bovenstaande beslissing gaat over één van de meest extreme keuzes die je kan maken, namelijk die over leven en dood. Bij de meeste bedrijven gaat de keuze vooral over een economische beslissing. Welke prospecten moet ik benaderen, welke klanten dreigen te vertrekken, waar heb ik het meeste potentieel om extra te verkopen, hoe kunnen interne processen (bv stockbeheer) geoptimaliseerd worden?
hierbij moet vooral opgelet worden voor 'unfair bias', of met andere woorden het vermijden van vooroordelen die voortvloeien uit en versterkt worden door de vroegere beslissingen waarop een proces werd gebaseerd. Stel dat je bijvoorbeeld het volledige huurbeleid in België door AI zou laten invullen ipv nu de makelaar/eigenaar, maar deze processen enkel zou voeden met eerdere huurcontracten, dan kan je er vanuit gaan dat de allochtone gemeenschap in dergelijk systeem verlaagde kansen zal krijgen, omwille van historische beslissingen in hun nadeel. Je zou zelf een versterkende spiraal kunnen krijgen waardoor geen enkele allochtoon nog een woning zou kunnen huren.
In dit geval zou je beter AI postfactum inzetten of voeden met andere bronnen om op een objectieve manier de beslissing te voeden.
Het lijkt bij de meeste bedrijven vooral een kwestie van vertrouwen om de stap te zetten naar AI vanuit de overtuiging dat geloof kan gegeven worden aan een machine-gedreven beslissing in plaats van een menselijke.
Eric De Clercq
LegUcy
Comments