Les organismes de réglementation ont visiblement compris qu’ils doivent réglementer la manière dont les autorités utilisent les algorithmes et les technologies d’IA. Mais ce que les régulateurs oublient trop souvent quand ils élaborent des politiques, c’est de tenir compte de la manière dont les décideurs humains interagissent avec les systèmes, (…)
Pour Marlies van Eck (@marliesEck), avocate et chercheuse à la Radboud Université (Pays-Bas), l’utilisation d’algorithmes pour détecter la fraude sociale suppose une forte interdépendance des systèmes entre eux, sans offrir de garanties suffisantes en cas de défaillances. En janvier 2021, le Premier ministre néerlandais Mark Rutte a démissionné rapporte Le (…)
Pour résoudre les dangers et les biais des calculs, les entreprises se tournent de plus en plus vers des entreprises privées pour faire réaliser l’audit de leurs systèmes, tout en continuant à protéger leurs calculs de tout examen public, explique le journaliste Alfred Ng (@alfredwkng) pour The Markup (@themarkup). Si (…)
Avec le numérique, nous avons plongé dans une forme d’addiction algorithmique, explique le chercheur et designer italien, Stefano Diana (@incalcolabili, blog en italien), auteur du livre Nous sommes incalculables (Stampa Alternativa, 2016, non traduit) dans un long essai publié en anglais en mars 2019 pour l’Institut des cultures en réseau (…)
Les calculs des prestations sociales tendent désormais partout à s’automatiser – et ce d’autant plus que leurs calculs sont souvent complexes, dépendant de multiples règles, lois, cas et spécificités. Au Royaume-Uni, l’ONG Human Rights Watch (@hrw) s’est penché sur les modalités de calcul des prestations sociales et les conclusions de (…)
Sur Social Europe (@socialeurope), un média qui milite pour le retour d’une Europe sociale lancé par le sociologue et politologue britannique Colin Crouch, Christina Colclough (@Cjclough) – spécialiste des effets de la numérisation sur le travail et les travailleurs, initiatrice du Why Not Lab, qui défend la nécessité d’une gouvernance (…)
« La légitimité de l’État administratif repose sur notre confiance dans l’expertise de ses agences », rappellent les professeurs de droit Ryan Calo (@rcalo) et Danielle Citron (@daniellecitron) dans un article de recherche. Mais de plus en plus, les services administratifs adoptent des systèmes automatisés pour s’acquitter des responsabilités qui leur sont (…)
Les chercheurs et praticiens de l’intelligence artificielle ont tendance à penser que l’IA est neutre ou bénéfique et que les problèmes qu’elle rencontre sont essentiellement liés aux données biaisées qu’elle utilise. Ils ont du mal à prendre la mesure des inégalités que leurs travaux exploitent et reproduisent explique l’artiste et (…)
Partout, les chercheurs universitaires et les grandes entreprises de technologie débattent des meilleures stratégies pour identifier et nettoyer leurs algorithmes de tout préjugé, explique la chercheuse au Media Lab du Massachusetts Institute of Technology Chelsea Barabas (@chels_bar) dans un récent billet pour le blog du Media Lab sur Medium. Mais, comme (…)
Fin décembre 2017, la ville de New York avait lancé un groupe de travail sur la question des algorithmes (appelé New York City Automated Decision Systems (ADS) Task Force que nous évoquions rapidement ici), chargé d’élaborer une politique sur ces questions. Saluée comme une initiative modèle, le groupe de travail (…)
Durant la décennie qui vient de se passer, la question de la responsabilité algorithmique est devenue une préoccupation importante pour les spécialistes des sciences sociales, les informaticiens, les journalistes comme les juristes. Les chercheurs et militants n’ont cessé de nous montrer les biais algorithmiques et les manipulations que les outils (…)
Etymologiquement, expliquer, c’est déployer, déplier, c’est-à-dire soulever les ambiguïtés qui se cachent dans l’ombre des plis. C’est donc également « ouvrir » (avec tout le sens que « l’ouverture » – open – a acquis dans le monde numérique), défaire, dépaqueter, c’est-à-dire non seulement enlever les paquets, dérouler les difficultés, mais aussi montrer les (…)
La « commission éthique des données » du gouvernement allemand a publié un rapport de 240 pages (pdf) (voir la synthèse en anglais de 32 pages) qui contient 75 recommandations pour améliorer la numérisation de la société, dont beaucoup ont trait à la prise de décision algorithmique, rapporte l’association européenne et militante (…)
L’Union européenne vient de publier un ensemble de recommandations et de règles (voir le rapport) pour développer des applications d’intelligence artificielle éthiques et responsables. Ce travail réalisé par un groupe d’une cinquantaine d’experts se révèle assez convenu, rappelant de grands principes éthiques pour orienter le secteur. Comme ironise The Verge, (…)
« S’agissant de notre profil numérique, les données que nous choisissons de partager ne sont que la pointe de l’iceberg. Nous ne voyons pas le reste, cachés sous la surface des interfaces conviviales des applications mobiles et des services en ligne. Les données les plus précieuses sur nous sont inférées hors (…)
L’AI Now Institute (@ainowinstitute) vient de rendre son rapport 2018 (.pdf), le 3e depuis la création de cet institut de recherche interdisciplinaire dédié à la compréhension des implications sociales de technologies de l’intelligence artificielle, fondé par Kate Crawford et Meredith Whittaker, affilié à l’Université de New York et financé notamment (…)
Comprendre ce qu’il se passe à l’intérieur des boîtes noires algorithmiques n’est pas si simple. Notamment, parce que les agencements de codes, de traitements, de classements, d’appariements se construisent souvent d’eux-mêmes, à partir de données que nous ne sommes pas conviés à regarder et de code que nous ne sommes (…)
En décembre 2017, le système scolaire public de Boston a proposé de changer les horaires du ramassage scolaire en utilisant un système algorithmique pour les définir… au grand mécontentement de nombre de parents. Joi Ito (@joi), directeur du Media Lab du MIT, et Kade Crockford (@onekade, blog), directrice du programme (…)
On se souvient de la mort d’Elaine Herzberg, première humaine tuée par une voiture autonome en mars 2018 (voir l’enquête qu’en dressait l’écrivain Thierry Crouzet). Pour le Guardian, le journaliste Andrew Smith (@wiresmith) revient sur les hésitations de l’algorithme de la voiture à reconnaître ce qu’il se passait. Pour la (…)
Face aux multiples biais inscrits dans la production même des données utilisées par les algorithmes et les outils d’apprentissage automatisés, le risque, rappelle la chercheuse Kate Crawford (@katecrowford), co-fondatrice de l’AI Now Institute (@AINowInstitute), est que « plutôt que de concevoir des systèmes censés résoudre les problèmes, nous les exacerbions ». La (…)