Le développement des modèles d’IA dans tous les domaines pose la question de l’engagement moral et éthique. La société de demain, transformée par l’IA, respectera-t-elle nos individualités ? Sera-t-elle représentative de la diversité humaine et sociale ? Le groupe de réflexion d’Optim’ease « Ethique & Digital » a échangé sur le thème des valeurs morales et humaines dans le numérique….

En juillet 2015, Google présentait ses excuses après que son logiciel de reconnaissance faciale avait confondu le portrait d’Afro-Américains avec des gorilles. Une telle bévue est arrivée parce que l’algorithme n’avait pas intégré les représentations d’hommes de couleur. Autre dérapage caractérisé : les objets connectés qui ne répondent pas aux dames, parce que l’algorithme ne reconnaît pas les voix féminines…

« Ces biais discriminants ne sont pas volontaires, les développeurs n’ayant pas pris en compte cette dimension, ni réfléchi à ses répercussions », explique Magali Germond, qui était l’invitée du groupe de réflexion. Mais selon elle, ces discriminations involontaires risquent d’être de plus en plus fréquentes avec la multiplication des programmes d’IA, et pourraient créer à terme un vrai clivage au sein de la société.

Au sommaire de cet article

Peut-on concilier le numérique et l’éthique ? A-t-on bien pensé les projets d’IA pour les encadrer ?

Qui a la responsabilité d’un programme d’IA ?

Comment amener les entreprises vers une acculturation de l’éthique ?

Comment s’assurer que des données ne soient pas mal utilisées ?