Plus d’un an après l’entrée en vigueur d’une législation européenne encadrant l’Intelligence Artificielle, l’Etat de Californie, berceau de cette technologie, vient lui aussi de promulguer un texte allant en ce sens…Alors que le gouvernement Trump se montre hostile à toute restriction dans la course à l’IA, les initiateurs de la loi dite “SB 53” ont cherché un juste équilibre pour ne pas freiner l’innovation mais éviter ses excès.
La Californie met un coup d’arrêt au développement sauvage de l’IA.
Premier berceau de l’Intelligence artificielle, avec les sièges de leaders de la Tech tels que Google, Meta, OpenAI (ChatGPT) ou Anthropic (fondé par des transfuges de la précédente) , la Californie est bien placée pour en connaître les risques…
L’État démocrate vient de mettre en place lundi une loi, baptisée “SB 53”, visant à encadrer l’utilisation de l’intelligence artificielle.
Précédée par l’AI Act européen
Présentée comme inédite sur le plan mondial, elle a cependant été précédée d’une législation européenne à la vocation similaire,, l’“AI Act”. Déjà qualifiée à l’époque de pionnière, cette dernière est entrée en vigueur le premier août 2024, avec une application progressive à partir du 2 février 2025.
La nouvelle loi californienne succède, quant à elle, à deux tentatives récentes opposées Outre-Atlantique, et qui avaient toutes deux avorté.
D’un côté, l’administration républicaine Trump a tenté de bloquer toute régulation de l’IA par des États américains, en arguant qu’un tel encadrement handicaperait dans la course à l’IA les Etats-Unis face à la Chine, dénuée de tout scrupule.
Le risque de trop freiner l’innovation n’émeut pas seulement le camp républicain. Cet argument avait aussi été retenu l’an dernier par le gouverneur démocrate de la Californie, Gavin Newsom, pour dégainer à la dernière minute un veto à un texte du sénateur local, Scott Wiener, affilié pourtant au même parti que lui…Celui-ci proposait déjà une première tentative de réglementation de l’IA, jugée trop stricte.
Un sujet clivant
Le sujet, extrêmement clivant, avait alors agité la Silicon Valley, certains leaders prenant la parole pour dénoncer un risque de fuite des cerveaux innovateurs, alors que la Révolution de l’IA ne fait encore que commencer…
Mais cette fois a été la bonne et en promulguant la loi SB 53, le gouverneur Gavin Newsom estime avoir trouvé un juste milieu, en aidant «l’État de Californie à encourager l’innovation tout en protégeant la sécurité publique».
Pour rappel, la législation européenne encadrant l’UE déjà évoquée visait, elle aussi, à fournir un cadre équilibré pour le développement de l’IA sur le vieux continent, en lui permettant de s’épanouir mais tout en mettant un garde-fou à ses potentiels excès.
Alors que l’IA mobilise des investissements massifs et se glisse désormais dans la vie quotidienne et professionnelle des citoyens américains, Gavin Newsom ne pouvait pas rester les bras ballants.
“Des progrès inquiétants”
«Les propres rapports des entreprises de pointe de l’IA révèlent des progrès inquiétants dans toutes les catégories de menaces», avait ainsi averti, en juin dernier, le groupe de réflexion mis en place par Gavin Newsom pour revoir la proposition initiale. Une parole de poids venant de la part d’experts et d’universitaires, comme Fei-Fei Li, une scientifique d’origine chinoise qui dirige aujourd’hui le “Stanfoord Institute for Human-Centered AI”, dite la “marraine de l’IA”.
Dans son rapport, le groupe de réflexion avait émis un certain nombre de recommandations pour déployer une réglementation nécessaire dans ce secteur, mais sans l’étouffer.
La loi SB 53 impose ainsi des obligations de transparence aux entreprises qui développent les modèles d’IA les plus avancés.
L’idée est de les obliger à signaler les comportements trompeurs dangereux de l’IA détectés pendant les tests. Ils devront ainsi rendre publics leurs protocoles de sécurité, signaler un éventuel incident grave en moins de 15 jours et mettre en place des mécanismes de protection pour les lanceurs d’alerte.
Par exemple, si un modèle minimise les freins destinés à l’empêcher de contribuer à la fabrication d’armes biologiques ou nucléaires, les développeurs seront dans l’obligation de dévoiler l’incident.
De façon générale, la loi instaure l’obligation de signaler les comportements trompeurs ou dangereux détectés pendant des phases de tests.
Le texte européen en partie plus contraignant
Pour le sénateur Scott Wiener, sa loi a notamment le mérite de rendre public les protocoles de sécurité, alors que le texte de référence de l’Union européenne, bien que plus contraignant sur d’autres plans, réserve leur transmission aux seules autorités.
Le vote de la législation européenne avait, elle aussi, donné lieu à des débats contradictoires ardus, certains pays, dont la France, s’opposant à un cadre trop strict susceptible de corseter l’IA et d’empêcher son essor.
Un compromis avait finalement été trouvé, le texte retenu choisissant d’imposer des contraintes proportionnées aux risques que font peser les systèmes d’IA sur la société.
Quand les risques sont limités, leur autorisation dans l’UE est soumise à des obligations de transparence légères. Mais ces dernières sont renforcées pour les systèmes déployés notamment dans des domaines à haut risque comme l’éducation ou le maintien de l’ordre ou les ressources humaines. Parmi ces obligations, figurent notamment un contrôle humain sur la machine, la mise en place d’un système de gestion du risque ou encore l’établissement d’une documentation technique.
Des règles spécifiques pour les IA génératives
Les IA génératives du type ChatGPT d’Open AI sont encadrées par des règles spécifiques visant à s’assurer de la qualité des données utilisées dans la mise au point des algorithmes et du respect des droits d’auteur.
Sons, images et textes générés via l’IA artificiellement doivent elles, être signalés comme tels pour éviter des manipulations de l’opinion.
La législation européenne ne s’appliquera réellement dans son ensemble (à quelques exceptions près) qu’à partir du 1er août 2026, même si certaines dispositions sont déjà devenues obligatoires dès cette année.
Depuis le 2 février dernier, quelques (rares) interdictions, dont les éventuelles violations sont punies d’amendes pouvant aller jusqu’à 7% du chiffre d’affaires mondial du contrevenant, ont été déployées. Elles proscrivent notamment les applications contraires aux valeurs chères au vieux continent, telles que des systèmes de notation citoyenne ou de surveillance de masse analogues à ceux utilisés en Chine.
Sur le réseau social X, Ursula von der Leyen, la Présidente de la Commission européenne, avait vanté « un cadre pionnier de l’Europe pour une IA innovante et sûre” qui “favorisera le développement d’une IA à laquelle les Européens peuvent faire confiance” et qui “aidera les PME et les jeunes entreprises européennes à mettre sur le marché des solutions d’IA de pointe »…
Pme européennes contre géants de la Tech ?
Petites Pme et start-up européennes vertueuses contre Géants de la Tech américains sans scrupules ?
La réalité est certainement moins manichéenne.
Avant même l’entrée en vigueur de la loi californienne, des géants américains de l’IA, dont OpenAI et Anthropic -sentant le vent tourner ?-, avaient pris des engagements volontaires de transparence et robustesse de leurs protocoles.
Des deux côtés de l’Atlantique, il s’agira, quoi qu’il en soit, d’empêcher que des apprentis sorciers ne jouent avec le feu de cette nouvelle technologie à hauts risques pour l’humanité qu’est l’IA. Et de se rappeler, une fois de plus, le précieux avertissement de Rabelais : “science sans conscience n’est que ruine de l’âme…”.
Lire aussi > Polémique “starter pack” : l’intelligence artificielle dans l’art encore une fois critiquée
Photo à la Une : © Getty Images/Unsplash+
