Paus Franciscus waarschuwt voor risico’s van AI
Op nieuwjaarsdag viert de katholieke kerk hun Internationale Dag van de Vrede. In een boodschap naar aanleiding van die gelegenheid, vestigt paus Franciscus aandacht op de risico’s die de nieuwe spitstechnologie met zich zou kunnen meebrengen. Volgens de paus kunnen we over AI niet “a priori veronderstellen dat de ontwikkeling bevorderlijk voor de toekomst van de mensheid en de vrede”. Dat kan enkel het geval zijn indien verantwoordelijk gehandeld wordt, met “inclusie, transparantie, veiligheid, billijkheid, privacy en betrouwbaarheid” in het achterhoofd, aldus de paus.
De kerkleider roept dan ook op om de ontwikkeling van AI beter en strikter te reguleren. De verantwoordelijkheid ligt daarvoor niet bij de ontwikkelaars, maar zou van overheden en internationale organisaties moeten komen. Die zouden moeten kunnen optreden wanneer AI buiten de sporen treedt.
Fragmentarisch
De paus stipt vervolgens aan dat het veelvoud aan AI-producten symptomatisch is voor een van de tekortkomingen ervan. AI is slecht “fragmentarisch”: elk systeem kan maar een bepaald deel van de menselijke intelligentie reproduceren. Hoe indrukwekkend modellen als GPT-4 en Gemini ook mogen zijn, volgens Franciscus blijft er een “onoverbrugbare kloof” tussen de mens en AI.
Volgens de paus is het ook onverantwoord om AI belangrijke beslissingen te laten nemen. Zaken die een impact hebben op het leven en welzijn van mensen, morele en ethische beslissingen, zouden we beter aan mensen overlaten. Of het nu om recruitingtoepassingen of toepassingen in rechtssystemen gaat: AI zou, op basis van data, heersende ongelijkheden kunnen vergroten.
Het grootste risico ziet de paus echter in de ontwikkeling van autonome wapens. Hij beredeneert dat zulke systemen nooit of te nimmer een verantwoordelijkheidsgevoel kunnen hebben zoals mensen dat wel doen. Als zo’n technologie in de verkeerde handen valt, zou dat bijzonder veel schade kunnen veroorzaken. “De wereld heeft geen nood aan nieuwe technologieën die […] uiteindelijk oorlog promoten”, zegt de paus er nog over.
Toch is niet alles slecht nieuws: als artificiële intelligentie ingezet wordt om de menselijke ontwikkeling tot een hoger plan te brengen, ziet ook de leider van de katholieke kerk heil in AI. Hij denkt dat AI “belangrijke innovaties in landbouw, onderwijs en cultuur” kan introduceren, en ervoor kan zorgen dat de mens er daadwerkelijk op vooruit gaat. Daarvoor verwijst Paus Franciscus nog een laatste keer naar een van de kernwoorden die hij eerder vernoemde: inclusie.
