Lignes directrices sur l'éthique de l'IA : les préoccupations et l'orientation de l'utilisation de l'IA

En avril, la Commission européenne a présenté des lignes directrices éthiques sur l'IA pour la responsabilité de l'intelligence artificielle dans la technologie. Ce n'est que le dernier d'une longue lignée d'organisations politiques et d'entreprises se préparant à mettre en œuvre des stratégies pour l'avenir de l'utilisation de l'IA.

Citant des problèmes de prise de décision et de responsabilité, des appels sont lancés pour une responsabilisation accrue et l'accent mis sur les considérations éthiques à mesure que le monde progresse avec la nouvelle technologie émergente de l'IA.

Comme nous l'avons vu avec le RGPD, les réglementations technologiques établies dans le monde entier peuvent très rapidement avoir des effets profonds sur les entreprises. Les entreprises américaines devraient dépenser au total près de 42 milliards de dollars pour se conformer à la législation européenne.

L'IA devient un incontournable des affaires modernes, car de plus en plus d'entreprises reconnaissent sa valeur. De l'automatisation à l'analyse approfondie, l'IA deviendra un élément central des feuilles de route de transformation de nombreuses PME, à mesure que les options complètes d'automatisation deviendront plus abordables pour les petites entreprises.

Les implications de ces directives sur la manière dont l'IA est utilisée et mise en œuvre sont la question sur toutes les lèvres. Des pays dotés de secteurs technologiques de pointe comme le Canada et le Japon ont déjà élaboré de vastes plans pour l'IA qui incluent des principes d'utilisation éthique.

Le gouvernement américain a commencé des recherches exploratoires sur les considérations éthiques de l'IA et a déclaré plus tôt cette année son objectif de développer l'industrie de la technologie de l'IA. Les entreprises ont également participé à l'acte, bien que la tentative de Google de former un comité d'éthique sur la question au printemps dernier ait été un désastre notable.

L'IA dans la technologie : les avantages de l'automatisation

La question de l'éthique et de la responsabilité est particulièrement pertinente pour l'IA en entreprise. L'IA est le plus souvent appliquée aux tâches manuelles banales. Il s'agit souvent de tâches manuelles routinières de faible valeur qui éloignent les employés de tâches plus utiles. Dans beaucoup d'entre eux, les humains peuvent superviser le processus, mais généralement, une supervision limitée est requise. L'IA est couramment exploitée pour les avantages qu'elle apporte dans les applications, notamment :

• Cybermenaces : les algorithmes suivent le comportement, détectent les anomalies dans les schémas et fonctionnent en dehors des heures de bureau. L'IA peut gérer les tâches informatiques de routine quotidiennes, automatiser la sauvegarde des données et sécuriser les données contre les piratages. Les spécialistes peuvent plutôt se concentrer sur des initiatives de niveau supérieur et des projets plus complexes nécessitant une touche humaine.
• Automatisation des processus : telles que la saisie de données, le classement ou l'indexation. Les employés passent moins de temps à classer et plus de temps à établir des relations ou à développer des idées pour propulser l'entreprise vers le succès.
• Analyses continues : à la fois pour étudier les clients et analyser les aspects des opérations commerciales. Actuellement, son utilisation ici permet de mieux comprendre l'expérience client et le fonctionnement des collaborateurs.

Les préoccupations

Le développement rapide des systèmes d'IA parmi les grandes organisations et les PME a conduit à une préoccupation accrue. Mis à part son hoquet plus tôt dans l'année, Google a présenté une liste raisonnable d'objectifs pour une utilisation éthique de l'IA qui ressemble à des thèmes communs à d'autres directives. La liste prend en considération :

• Avantages sociaux : Respect des normes culturelles, sociales et juridiques
• Biais : Empêcher les algorithmes et les bases de données de refléter injustement les biais liés à des caractéristiques telles que la race, le sexe et la nationalité
• Responsabilisation : Offrir des possibilités de rétroaction et d'appel. Rendre la technologie de l'IA soumise à la direction et au contrôle humains
• Confidentialité : créer une technologie d'IA avec des garanties de confidentialité et une transparence appropriée

Établir des normes

Dans ses directives éthiques pour une IA digne de confiance, l'UE a défini sept exigences essentielles similaires qui, espère-t-elle, deviendront la base d'une directive éthique qui façonnera l'industrie à l'échelle mondiale.

Il fait suite au RGPD de l'année dernière, qui a jusqu'à présent gagné en popularité en faisant de la confidentialité des données un droit fondamental des citoyens. Ces directives éthiques ont également cherché à encadrer les principes humains fondamentaux en tant que centre des systèmes d'IA.

Les éléments clés mettent l'accent sur la surveillance humaine, la confidentialité des données et la responsabilité, notant qu'à mesure que les technologies d'IA deviennent plus répandues, il devrait y avoir un effort concerté pour prendre en compte les principales préoccupations du public.

IA non surveillée

Ces lignes directrices sont importantes car elles mettent en lumière la course à la suprématie en IA. L'Europe est particulièrement en retard sur la Chine et les États-Unis en termes d'investissements technologiques, mais a trouvé un soutien mondial pour l'introduction de lignes directrices dans d'autres domaines tels que les lois sur les émissions et les normes alimentaires.

Cette nouvelle poussée peut être considérée comme une tentative d'ouvrir la voie sur un sujet qui prend rapidement de l'ampleur. En se démarquant, ils peuvent prendre le dessus pour diriger la discussion mondiale sur l'éthique dans l'industrie de l'IA.

Une telle approche n'est ni injustifiée ni fallacieuse; les priorités des stratégies d'IA dans le monde varient énormément dans leurs objectifs. Les États-Unis, par exemple, mènent actuellement l'opposition à une interdiction mondiale des robots tueurs. La Chine, en revanche, s'est principalement concentrée sur son système controversé de crédit social qui cherche à tirer parti de son accès total aux données des citoyens.

Les deux mettent l'accent sur l'utilisation d'une IA non surveillée, c'est-à-dire une technologie entièrement automatisée avec peu ou pas de surveillance humaine qui prend des décisions sur la façon de traiter les gens. Le cœur de la préoccupation européenne est qu'une telle technologie pourrait éventuellement permettre aux entreprises - et peut-être aux gouvernements - de renoncer à la responsabilité de prendre des décisions ou d'utiliser l'IA à des fins controversées.

Comment les entreprises américaines seront-elles affectées ?

Bien sûr, ces directives ne sont pas inscrites dans la loi, comme pour la plupart des approches de l'IA par les organes directeurs. Cependant, ils servent de base à de futures conversations sur le sujet et pourraient former la structure d'une future réglementation, avec des tests des lignes directrices avec des organisations à partir de 2020.

Avec l'entrée en vigueur l'année prochaine de la loi californienne sur la protection de la vie privée des consommateurs (GDPR aux États-Unis), il n'est pas déraisonnable de supposer que les futures lois sur la technologie s'inspireront également de l'autre côté de l'étang. Les États-Unis, ainsi que 41 autres pays, ont déjà approuvé une décision récente de l'Organisation de coopération et de développement économiques (OCDE) visant à établir des principes non contraignants d'IA.

Après les préparatifs et les coûts qui ont dû être faits après l'entrée en vigueur du RGPD, les entreprises américaines chercheront avec curiosité à voir comment ces directives affecteront les organisations sur toute la ligne.

Compte tenu de la mauvaise presse que certaines grandes entreprises américaines ont déjà reçue, et malgré des efforts solitaires pour faire des percées en ce qui concerne la technologie de l'IA, les entreprises pourraient se retrouver à s'adapter aux réglementations des législateurs le plus tôt possible.

Cela pourrait essentiellement signifier que, comme pour le RGPD, les organisations seraient bien avisées d'évaluer la meilleure façon de se préparer aux éventuels obstacles sur la route à venir. L'utilisation des mégadonnées, par exemple, utilisées en masse pour améliorer les capacités de la technologie de l'IA, est une pratique qui peut se trouver dans la ligne de mire des problèmes de transparence des données.

L'avenir de l'IA et de l'automatisation

L'IA dans la technologie offre de nombreux avantages aux entreprises en rationalisant les processus et en éliminant la corvée des tâches répétitives de bas niveau. Cependant, ces mêmes avantages pourraient rapidement devenir problématiques en raison des moyens pour les atteindre.

C'est particulièrement le cas avec des pratiques telles que la collecte de grandes quantités de données client pour améliorer la réponse humaine de l'IA. Les consommateurs seront-ils toujours à l'aise avec cela dans un avenir proche ? Sinon, les PME qui emploient des stratégies d'IA étendues dans leurs organisations devront sérieusement envisager un plan pour anticiper les défis à venir que l'utilisation de l'IA pourrait poser avec des réglementations éthiques plus strictes.

Il est indéniable que l'IA aide les entreprises, et son utilisation continuera de croître dans un proche avenir. Cependant, nous avons déjà eu un avant-goût de la façon dont les gens réagissent à la technologie de pointe en matière de confidentialité.

Les pratiques éthiques de l'IA font l'objet d'un examen similaire à celui de la protection des données et de la confidentialité. C'est donc une bonne idée pour les décideurs des PME d'être conscients des considérations qu'ils devront probablement prendre en compte à mesure que la technologie devient plus sophistiquée.

Vous voulez en savoir plus ?

L'intelligence artificielle est un outil puissant que les organisations peuvent exploiter pour augmenter leur productivité et leur efficacité. En savoir plus sur l'automatisation intelligente des processus et contactez-nous pour entamer une conversation dès aujourd'hui.