{"id":1602,"date":"2015-03-16T13:35:15","date_gmt":"2015-03-16T12:35:15","guid":{"rendered":"http:\/\/jefklak.org\/?p=1602"},"modified":"2015-03-16T13:35:15","modified_gmt":"2015-03-16T12:35:15","slug":"mortels-algorithmes","status":"publish","type":"post","link":"https:\/\/cloud.jefklak.org\/wordpress\/2015\/03\/16\/mortels-algorithmes\/","title":{"rendered":"Mortels algorithmes"},"content":{"rendered":"

Traduit de l\u2019anglais par Lucie Gerber. Texte original : \u00ab Deadly Algorithms. Can legal codes hold software accountable for code that kills? \u00bb<\/a>, paru dans la revue Radical Philosophy 187 (sept\/oct 2014).<\/p>\n

\n

La guerre des drones men\u00e9e par le gouvernement Obama, et coordonn\u00e9e par John Brennan, responsable de la Homeland Security, tend \u00e0 automatiser le r\u00e8glement des conflits dans lesquels sont engag\u00e9s les \u00c9tats-Unis (en Afghanistan, Pakistan, Somalie et Yemen notamment). Dans ce nouveau mode op\u00e9ratoire, les machines ne se contentent plus d’ex\u00e9cuter les mises \u00e0 mort, elles les d\u00e9cident. Cette robotisation de la hi\u00e9rarchie militaire pose des questions juridiques, encore sans r\u00e9ponse, et lourdes d\u2019implications \u00e9thiques. Si des algorithmes ont \u00e0 la fois la capacit\u00e9 d\u2019\u00e9tablir qui doit \u00eatre tu\u00e9 et d’ex\u00e9cuter cette d\u00e9cision via des robots, qui peut \u00eatre tenu responsable du meurtre ? <\/p>\n

Susan Schuppli est vice-directrice du Centre de recherches en architecture \u00e0 l’universit\u00e9 Goldsmith de Londres. Avec Eyal Weizman, architecte analysant, entre autres, les formes du conflit isra\u00e9lo-palestinien, elle participe au projet \u00ab Forensic Architecture \u00bb, travaillant sur les manifestations urbaines, architecturales et spatiales de la violence, et sur les repr\u00e9sentations de l’espace (cartes, images satellites, images 3D) qui accompagnent et structurent les d\u00e9bats portant sur les conflits, principalement arm\u00e9s.<\/p>\n<\/p><\/div>\n

 <\/p>\n

T\u00e9l\u00e9charger l’article en PDF.<\/a><\/p>\n

 <\/p>\n

Acc\u00e9der \u00e0 l’article en version originale sur Radical Philosopy.<\/a><\/p>\n

 <\/p>\n

Cela fait d\u00e9j\u00e0 longtemps que des algorithmes se sont mis \u00e0 prendre toutes sortes de d\u00e9cisions concernant les activit\u00e9s vitales sur lesquelles reposent notre bien-\u00eatre et notre survie : depuis les pacemakers<\/i> qui assurent le maintien des rythmes cardiaques naturels, jusqu’aux algorithmes g\u00e9n\u00e9tiquesa<\/sup><\/a> qui optimisent les temps de r\u00e9action en croisant donn\u00e9es d’emplacement des ambulances et donn\u00e9es d\u00e9mographiques, en passant par les syst\u00e8mes d\u2019alerte rapide qui suivent au plus pr\u00e8s l\u2019approche des temp\u00eates, d\u00e9tectent l\u2019activit\u00e9 sismique et s’\u00e9vertuent m\u00eame \u00e0 pr\u00e9venir les g\u00e9nocides en surveillant, via des images prises par satellites, des zones menac\u00e9es par des conflits ethniques1<\/sup><\/a><\/span><\/span>. Mais les algorithmes se sont aussi vus confier d’autres t\u00e2ches. Parmi elles, la mise \u00e0 mort. Les lignes de code ex\u00e9cut\u00e9es servent alors, \u00e0 leur tour, litt\u00e9ralement, \u00e0 ex\u00e9cuter. <\/p>\n

La pr\u00e9sidence Obama est persuad\u00e9e que la guerre contre le terrorisme peut \u00eatre gagn\u00e9e gr\u00e2ce \u00e0 l’utilisation de logiciels pr\u00e9dictifs qui permettraient de surpasser informatiquement (out-computing<\/i>) ses ennemis, et de contrecarrer ainsi les menaces terroristes. Guid\u00e9e par cette conviction, une nouvelle g\u00e9n\u00e9ration d’algorithmes meurtriers est en train d’\u00eatre con\u00e7ue, qui vont \u00e0 la fois contr\u00f4ler et g\u00e9rer la \u00ab kill list<\/i>b<\/sup><\/a> \u00bb, et, en cons\u00e9quence, d\u00e9cider des frappes2<\/sup><\/a><\/span><\/span>. La pratique (r\u00e9cemment abolie) des \u00ab frappes de signatures \u00bb, dans lesquelles l’analyse de donn\u00e9es \u00e9tablissait des comportements \u00ab terroristes \u00bb typiques et associait ces \u00ab sch\u00e9mas (patterns<\/i>) <\/i>\u00bb \u00e0 des cibles potentielles sur le terrain, permet d\u2019entrevoir un avenir o\u00f9 la collecte de renseignements, leur \u00e9valuation et l\u2019intervention militaire, y compris les calculs d\u00e9terminant qui peut \u00eatre tu\u00e9 en toute l\u00e9galit\u00e9, seront essentiellement r\u00e9alis\u00e9s par des machines, \u00e0 partir d’une base de donn\u00e9es agr\u00e9geant un nombre croissant d’informations. Contrairement \u00e0 ce qui a \u00e9t\u00e9 maintes fois sugg\u00e9r\u00e9, cette transition vers un mode d’ex\u00e9cution r\u00e9gi par des algorithmes n’est donc pas une simple continuation de la mise \u00e0 mort \u00e0 distance, prolongeant l’invention de l’arc et de la fl\u00e8che qui instaur\u00e8rent une distance spatiale entre le guerrier et son ennemi3<\/sup><\/a><\/span><\/span>. Cette transition est aussi la cons\u00e9quence d’une automatisation croissante de la guerre, h\u00e9riti\u00e8re du couplage cybern\u00e9tique de la th\u00e9orie math\u00e9matique de l’information de Claude Shannon et des recherches li\u00e9es \u00e0 l\u2019effort de guerre de Norbert Wiener sur les boucles de r\u00e9troaction et les syst\u00e8mes de contr\u00f4le de la communication4<\/sup><\/a><\/span><\/span>. \u00c0 l’\u00e8re des syst\u00e8mes d’armement intelligents, le contr\u00f4le des op\u00e9rations militaires et la prise de d\u00e9cision sont de plus en plus sous-trait\u00e9s \u00e0 des machines.
\n 
\n\"wargames-09\"<\/a>
\n <\/p>\n

Terreur informatique<\/h4>\n

En 2011, le d\u00e9partement de la D\u00e9fense am\u00e9ricain (Department of Defense, DoD) rendait publique sa \u00ab feuille de route \u00bb pr\u00e9voyant d’accro\u00eetre le recours aux technologies sans \u00e9quipage<\/i> [unmanned<\/i>, c’est-\u00e0-dire \u00ab sans humain \u00bb]. Parmi celles-ci, les syst\u00e8mes a\u00e9riens sans pilote \u2013 les drones \u2013 ne sont qu’un aspect d’une strat\u00e9gie globale visant l’impl\u00e9mentation d’agents intelligents totalement autonomes. Voici comment le DoD envisage son propre futur : <\/p>\n

    \nLe DoD a le projet d’int\u00e9grer les diff\u00e9rentes ressources d’\u00e9quipements <\/i>sans \u00e9quipage. Elles dotent le programme Joint Warfighters de solutions flexibles et permettent en m\u00eame temps d’exploiter les avantages inh\u00e9rents aux technologies sans \u00e9quipage, tels que la persistance, la taille, la rapidit\u00e9, les facilit\u00e9s de man\u0153uvre et le risque r\u00e9duit pour la vie humaine. Tandis que les syst\u00e8mes sans \u00e9quipage op\u00e9reront en continuit\u00e9 avec les syst\u00e8mes avec \u00e9quipage [manned<\/i>], le DoD pr\u00e9voit de r\u00e9duire progressivement le degr\u00e9 d’emprise humaine sur le contr\u00f4le et la prise de d\u00e9cision n\u00e9cessaires pour op\u00e9rer la partie sans \u00e9quipage des forces arm\u00e9es5<\/sup><\/a><\/span><\/span>.\n<\/ol>\n

     <\/p>\n

    Le document du DoD est un curieux m\u00e9lange de caricature de la guerre froide et de fordisme, sur fond d\u2019inqui\u00e9tudes g\u00e9opolitiques contemporaines. On y trouve deux petites sc\u00e8nes fictionnelles qui illustrent la mani\u00e8re dont les syst\u00e8mes autonomes pourraient am\u00e9liorer l’efficacit\u00e9 des op\u00e9rations en favorisant l’interop\u00e9rabilit\u00e9 des domaines militaires. L’objectif est d’accro\u00eetre les moyens d’intervention de l’arm\u00e9e am\u00e9ricaine, de l\u2019Air Force et de la Navy, en jouant sur la compl\u00e9mentarit\u00e9 entre les portions sans et avec \u00e9quipage de leurs forces arm\u00e9es. Il est frappant de constater \u00e0 quel point l’intrigue et le casting<\/i> de ces sc\u00e9narios d’anticipation sont familiers : ils mettent en sc\u00e8ne l’approvisionnement national en ressources hydrocarbures menac\u00e9 par des acteurs voyous \u00e9quip\u00e9s de technologies russes. Dans l’un de ces sc\u00e9narios, un \u00c9tat-nation islamique radicalis\u00e9 s’est dot\u00e9 d’un vieux sous-marin nucl\u00e9aire russe qui, surpris par un tremblement de terre dans le Pacifique, contamine les eaux littorales de l’Alaska et menace ses r\u00e9serves de p\u00e9trole. L’autre sc\u00e9nario nous transporte dans le Golfe de Guin\u00e9e au large des c\u00f4tes africaines, et concerne le sabotage d’un ol\u00e9oduc sous-marin, aggrav\u00e9 par l’approche d\u2019un vaisseau hostile capable de lancer un missile russe air-sol de courte port\u00e9e6<\/sup><\/a><\/span><\/span>.<\/p>\n

    Ces sayn\u00e8tes, qui empruntent aux films d’action hollywoodiens, sont longuement d\u00e9velopp\u00e9es dans cinq pleines pages du rapport. Elles tranchent avec les exigences de s\u00e9rieux scientifique, de prudence politique et de rationalisation \u00e9conomique qui, le document l’assure \u00e0 maintes reprises, guident la transition vers les syst\u00e8mes totalement d\u00e9pourvus d’\u00e9quipagec<\/sup><\/a>. \u00c0 quel titre devraient nous convaincre ces projets et ces strat\u00e9gies ? Au nom d’un imaginaire culturel collectif qui puise sa politique dans les laboratoires d’imagerie de synth\u00e8se de l’industrie de l’info-divertissement ? Ou bien, faut-il plut\u00f4t en appeler \u00e0 une approche fond\u00e9e sur les preuves, que l’on appliquerait \u00e0 la r\u00e9solution des probl\u00e8mes complexes pos\u00e9s par l’\u00e9volution des contextes globaux ? Sans surprise, le rapport est extr\u00eamement d\u00e9taill\u00e9 (et techno-f\u00e9tichiste) dans sa description des r\u00e9ponses robotis\u00e9es \u00e0 ces sc\u00e9narios de situations \u00e0 risque. Il l\u2019est en revanche beaucoup moins dans son traitement des trois principaux d\u00e9fis identifi\u00e9s comme sp\u00e9cifiques au recours croissant aux syst\u00e8mes automatis\u00e9s et autonomes :<\/p>\n

      \n
    1. L’investissement dans la \u00ab Science et technologie  (S&T) \u00bb pour augmenter l\u2019op\u00e9rationnalit\u00e9 des syst\u00e8mes autonomes.\n<\/li>\n
    2. Le d\u00e9veloppement de r\u00e8gles et de recommandations pour d\u00e9finir le type de d\u00e9cision qui peut \u00eatre d\u00e9l\u00e9gu\u00e9 de mani\u00e8re s\u00fbre et \u00e9thique \u00e0 des machines et pour sp\u00e9cifier les conditions de cette d\u00e9l\u00e9gation.\n<\/li>\n
    3. Le d\u00e9veloppement de nouvelles techniques de \u00ab V\u00e9rification et validation  (V&V) \u00bb et de \u00ab Test et \u00e9valuation (T&E) \u00bb pour r\u00e9aliser les conditions d’une \u00ab confiance \u00bb v\u00e9rifiable dans l’autonomie7<\/sup><\/a><\/span><\/span>.\n<\/li>\n<\/ol>\n

      Le second de ces d\u00e9fis (la d\u00e9l\u00e9gation de la prise de d\u00e9cision aux syst\u00e8mes informatiques) soul\u00e8ve un point crucial. Il engendre de profonds dilemmes \u00e9thiques et met en cause la capacit\u00e9 des cadres juridiques existants \u00e0 prendre en compte l’\u00e9mergence de ces nouveaux acteurs algorithmiques. La question est d\u2019autant plus \u00e9pineuse que la logique jurisprudentielle qui organise la prise de d\u00e9cision juridique (dans la tradition de la common law<\/i>d<\/sup><\/a>) suit le m\u00eame cheminement que celui qui a organis\u00e9 le programme drone d\u00e8s son origine : \u00e0 savoir la justification d\u2019une action par l\u2019existence d\u2019un mod\u00e8le [pattern<\/i>] comportemental, \u00e9tabli \u00e0 partir d\u2019\u00e9v\u00e9nements ant\u00e9rieurs. <\/p>\n

      L\u2019aporie juridique recoupe un discours parall\u00e8le sur la responsabilit\u00e9 morale. Ce d\u00e9bat, beaucoup plus g\u00e9n\u00e9ral, a eu tendance \u00e0 pr\u00e9senter le recours aux drones arm\u00e9s en termes d’antagonisme humains-machine. Comme l’ont \u00e9crit les auteurs de l’entr\u00e9e \u00ab Informatique et responsabilit\u00e9 morale \u00bb de la Stanford Encyclopedia of Philosophy<\/i> :<\/p>\n

        \nLes d\u00e9bats philosophiques sur la responsabilit\u00e9 ont traditionnellement pris pour cible les composantes humaines de l’action morale. Lorsqu’il s’agit d’assigner une responsabilit\u00e9 morale, on pr\u00e9suppose ordinairement des agents humains qui accomplissent des actions aux cons\u00e9quences imm\u00e9diates et bien d\u00e9finies. Dans une soci\u00e9t\u00e9 o\u00f9 la technologie occupe une place toujours plus importante, l’activit\u00e9 humaine ne peut \u00eatre correctement comprise sans se r\u00e9f\u00e9rer aux art\u00e9facts technologiques, ce qui n’est pas sans compliquer l’assignation d’une responsabilit\u00e9 morale8<\/sup><\/a><\/span><\/span>.\n<\/ol>\n

         <\/p>\n

        Lorsqu’on interroge les conditions qui rendraient moralement acceptable de tuer d\u00e9lib\u00e9r\u00e9ment un \u00eatre humain, il n’est pas sp\u00e9cifiquement question de savoir si le droit autorise pareil acte, pour des raisons de menace imminente, de l\u00e9gitime d\u00e9fense, voire m\u00eame d’empathie pour une personne souffrant d\u2019une douleur extr\u00eame ou dans un \u00e9tat v\u00e9g\u00e9tatif permanent. Le registre moral dans lequel s’\u00e9labore la d\u00e9cision de tuer rel\u00e8ve d’un cadre \u00e9thique diff\u00e9rent : un registre selon lequel l\u2019individu n\u2019est pas n\u00e9cessairement li\u00e9 \u00e0 un contrat conclu entre le citoyen et l\u2019\u00c9tat. Tandis que les positions morales peuvent \u00eatre propres \u00e0 des valeurs ou \u00e0 des croyances individuelles, les cadres juridiques nous permettent d\u2019agir en notre nom collectif, en tant que citoyens li\u00e9s contractuellement \u00e0 un corps repr\u00e9sentatif, d\u00e9mocratiquement \u00e9lu, agissant en notre nom, bien que nous puissions \u00eatre en d\u00e9saccord politique avec lui. <\/p>\n

        Il est donc beaucoup plus simple de prendre moralement position contre des \u00e9v\u00e9nements \u2013 les frappes de drones am\u00e9ricains au Pakistan \u2013 que de prouver leur ill\u00e9galit\u00e9, compte tenu de la l\u00e9gislation anti-terroriste qui a \u00e9t\u00e9 mise en place depuis le 11 septembre 2001. Il devient encore plus difficile d\u2019assigner une responsabilit\u00e9 morale, de prouver une faute p\u00e9nale de n\u00e9gligence ou de d\u00e9montrer une responsabilit\u00e9 juridique pour un \u00e9v\u00e9nement meurtrier lorsque humains et machines interagissent pour prendre des d\u00e9cisions. Cette complexification ne pourra que s\u2019accro\u00eetre avec le perfectionnement des syst\u00e8mes automatis\u00e9s, qui agiront de plus en plus comme des agents l\u00e9gaux ind\u00e9pendants. De plus, depuis l’arr\u00eat Daubert, rendu en 1993 par la Cour supr\u00eame des \u00c9tats-Unis dans le cadre d’un proc\u00e8s intent\u00e9 contre l’entreprise Merrel Dow Pharmaceuticals, il revient \u00e0 la sph\u00e8re judiciaire de d\u00e9terminer l’admissibilit\u00e9 d\u2019une preuve scientifiquee<\/sup><\/a>. Il est donc devenu difficile pour les instances judiciaires d\u2019adopter une position militante, dans la mesure o\u00f9 elles sont confront\u00e9es \u00e0 leurs propres limites dans la compr\u00e9hension des innovations techniques. Aujourd\u2019hui, il serait manifestement d\u00e9raisonnable de traduire un algorithme devant les tribunaux si les choses tournaient mal sur le terrain, encore moins lorsque les op\u00e9rations sont parfaitement ex\u00e9cut\u00e9es, comme dans le cas d’une frappe l\u00e9tale de drone.<\/p>\n

        En me focalisant sur les dimensions l\u00e9gales de la responsabilit\u00e9 algorithmique plut\u00f4t que sur des questionnements moraux plus g\u00e9n\u00e9raux, je n’entends pas sugg\u00e9rer que la morale et le droit doivent \u00eatre rel\u00e9gu\u00e9es \u00e0 des sph\u00e8res s\u00e9par\u00e9es. Il est toutefois utile d’engager une premi\u00e8re r\u00e9flexion sur les effets des algorithmes, car ils ne se contentent pas de r\u00e9ordonner les principes qui r\u00e9gissent nos vies, mais peuvent aussi fournir de nouveaux agencements \u00e9thiques d\u00e9riv\u00e9s d’axiomes math\u00e9matiques.
        \n 
        \n        \"wargames2\"<\/a>
        \n <\/p>\n

        Responsabilit\u00e9 algorithmique<\/h4>\n

        Le droit a d\u00e9j\u00e0 \u00e9tendu la cat\u00e9gorie de \u00ab personnalit\u00e9 juridique \u00bb de sorte \u00e0 y inclure des acteurs non-humains tels que les entreprises (qualifi\u00e9es de \u00ab personnes morales \u00bb). Cette notion permet de r\u00e9fl\u00e9chir \u00e0 la question de la responsabilit\u00e9 algorithmique9<\/sup><\/a><\/span><\/span>. On peut bien s\u00fbr faire valoir que les m\u00e9thodes juridiques ne constituent pas le meilleur cadre pour r\u00e9soudre des dilemmes moraux. Mais il faut ajouter que rien n\u2019indique par ailleurs que les objectifs du contre-terrorisme soient mieux remplis au moyen d\u2019une supervision algorithmique. De toute fa\u00e7on, mettre l’accent sur la prise en compte du raisonnement algorithmique par le droit peut s\u2019av\u00e9rer utile dans une situation o\u00f9 nous sommes confront\u00e9s \u00e0 la possibilit\u00e9 bien r\u00e9elle que la \u00ab kill list <\/i>\u00bb, ou d’autres matrices \u00e9mergentes pour la conduite de la \u00ab guerre contre le terrorisme \u00bb, se fondent sur des algorithmes, relevant d\u2019assemblages socio-techniques plus vastes, \u00e0 l\u2019int\u00e9rieur desquels il devient impossible de dissocier agents humains et non-humains. Nos exigences face au droit ne peuvent que s\u2019en trouver plus \u00e9lev\u00e9es. <\/p>\n

        Face \u00e0 ces rapides d\u00e9veloppements technologiques, on peut l\u00e9gitimement s’inqui\u00e9ter du degr\u00e9 de r\u00e9activit\u00e9 des r\u00e8gles de droit, de leur capacit\u00e9 \u00e0 soumettre les syst\u00e8mes algorithmiques aux m\u00e9canismes r\u00e9gulateurs qui s\u2019imposent habituellement aux forces qui affectent la soci\u00e9t\u00e9 dans son ensemble10<\/sup><\/a><\/span><\/span>. Toutefois, le terrain a d\u00e9j\u00e0 \u00e9t\u00e9 pr\u00e9par\u00e9 pour l’\u00e9mergence d’une nouvelle cat\u00e9gorie d’acteurs juridiques : les syst\u00e8mes intelligents. S’ils ne disposent pas \u00e0 proprement parler d’un libre arbitre au sens classique du terme (qui permettrait de leur assigner une responsabilit\u00e9 p\u00e9nale), ils ont n\u00e9anmoins \u00e9t\u00e9 dot\u00e9s d’une forme d’auto-d\u00e9termination. Ils ont en effet \u00e9t\u00e9 programm\u00e9s pour prendre des d\u00e9cisions en se fondant sur leur propre logique algorithmique11<\/sup><\/a><\/span><\/span>. Les drones de combat ne sont que la partie \u00e9merg\u00e9e de l\u2019iceberg des syst\u00e8mes militaires automatis\u00e9s mis en service par le DoD. Ils ne sont qu\u2019un \u00e9l\u00e9ment dans un ensemble plus vaste de dispositifs t\u00e9l\u00e9-pilot\u00e9s qui agiront \u00e0 partir des donn\u00e9es qu’ils auront eux-m\u00eames collect\u00e9es, g\u00e9r\u00e9es et analys\u00e9es.<\/p>\n

        Ceux qui pr\u00f4nent la d\u00e9l\u00e9gation de la prise de d\u00e9cision aux algorithmes ne tarissent pas d’\u00e9loges sur la quasi-instantan\u00e9it\u00e9 des r\u00e9actions qui permettent aux agents intelligents \u2013 qualifi\u00e9s par certains de \u00ab pr\u00e9dateurs moraux \u00bb \u2013 de faire des ajustements, \u00e0 la milliseconde pr\u00e8s, pour \u00e9viter une frappe de drone si, par exemple, des enfants venaient \u00e0 sortir d\u2019une maison prise pour cible comme un repaire de miliciens 12<\/sup><\/a><\/span><\/span>. L’id\u00e9e, qui n’est pas neuve, est que les syst\u00e8mes robotiques peuvent r\u00e9duire la marge d’erreur et compresser les pertes civiles qui sont souvent la cons\u00e9quence des actions men\u00e9es sur le terrain par des soldats fatigu\u00e9s. Les machines ont \u00e9galement cet avantage qu’elles ne se soucient pas outre mesure de leur propre conservation. Par contraste, les soldats se pr\u00e9occupent de leur survie et peuvent, sous l\u2019effet de la fatigue par exemple, commettre des erreurs de jugements. Mais, demandent les juristes Sabine Gless et Herbert Zech, si ces \u00ab agents intelligents sont souvent utilis\u00e9s dans des zones o\u00f9 les risques d\u2019\u00e9chec et d\u2019erreur peuvent \u00eatre r\u00e9duits en substituant des machines aux humains, la question se pose : qui est responsable si les choses tournent mal13<\/sup><\/a><\/span><\/span> ? \u00bb<\/p>\n

        Lorsqu’un acte a entra\u00een\u00e9 des pr\u00e9judices corporels ou des accidents mortels, le d\u00e9bat juridique a g\u00e9n\u00e9ralement pour objet l’\u00e9valuation du degr\u00e9 de pr\u00e9visibilit\u00e9 de telles cons\u00e9quences. Pour se prononcer sur le cas port\u00e9 \u00e0 leur attention, la question est de savoir si tous les efforts raisonnablement envisageables et tous les protocoles pr\u00e9ventifs possibles ont \u00e9t\u00e9 int\u00e9gr\u00e9s au syst\u00e8me pour r\u00e9duire la probabilit\u00e9 d’occurrence de ce type de cons\u00e9quence. Toutefois, lorsque les programmateurs fixent les conditions dans lesquelles une machine sera amen\u00e9e \u00e0 prendre une d\u00e9cision, ils ne peuvent \u00e9videmment pas int\u00e9grer toutes les variables potentiellement en jeu. Le probl\u00e8me est d’autant plus \u00e9pineux que les conditions au sol et la connaissance des \u00e9v\u00e9nements qui s\u2019y d\u00e9roulent sont aussi variables que les contextes changeants de conflits et du contre-terrorisme. Werner Dahm, directeur scientifique de l’United States Air Force, souligne la difficult\u00e9 qu’il y a \u00e0 concevoir des syst\u00e8mes \u00ab z\u00e9ro erreur \u00bb : \u00ab Vous devez \u00eatre capable de montrer que le syst\u00e8me ne va pas mal tourner \u2013 il vous faut donc invalider une hypoth\u00e8se n\u00e9gative14<\/sup><\/a><\/span><\/span>. \u00bb <\/p>\n

        Dans la mesure o\u00f9 les processus de prise de d\u00e9cision fortement automatis\u00e9s impliquent des contextes complexes en \u00e9volution rapide, saisis au prisme de technologies multiples, pouvons-nous raisonnablement esp\u00e9rer int\u00e9grer une forme quelconque de d\u00e9cision \u00e9thique dans ces syst\u00e8mes sans \u00e9quipage  ? Une approche algorithmique des probl\u00e8mes \u00e9thiques soulev\u00e9s par la guerre des drones reproduira-t-elle la logique qui pr\u00e9sidait aux frappes de signature, je veux parler d’une forme de raisonnement consistant \u00e0 \u00e9tablir des suspicions \u00e0 partir d\u2019un sch\u00e9ma comportemental ou d\u2019une activit\u00e9 militante ? Faut-il, par exemple, tuer Abdulrahman al-Awlaki, un jeune homme \u00e2g\u00e9 de 16 ans vivant au Yemen, parce que son p\u00e8re \u00e9tait un religieux radicalis\u00e9 ; un r\u00f4le qu’il est susceptible d’h\u00e9riter15<\/sup><\/a><\/span><\/span> ? La \u00ab kill list <\/i>\u00bb, que l’on conna\u00eet depuis peu sous la formule euph\u00e9mique de \u00ab Disposition Matrix \u00bb, sugg\u00e8re que les mod\u00e8les informatiques peuvent servir \u00e0 prendre ce type de d\u00e9cision. Comme le souligne le journaliste du Washington Post<\/i> Greg Miller : \u00ab La matrice contient les noms des personnes soup\u00e7onn\u00e9es de terrorisme. Elle r\u00e9pertorie pour chacun d’entre eux l’ensemble des ressources qui sont mobilis\u00e9es pour les traquer, y compris les actes d’accusation scell\u00e9s et les op\u00e9rations secr\u00e8tes16<\/sup><\/a><\/span><\/span>. \u00bb <\/p>\n

        Si l’on peut consid\u00e9rer les syst\u00e8mes intelligents comme des agents l\u00e9gaux, ils n’ont pas encore \u00e9t\u00e9 dot\u00e9s d’une personnalit\u00e9 juridique. Des pr\u00e9c\u00e9dents existent cependant qui portent en germe cette possibilit\u00e9. L\u2019id\u00e9e selon laquelle, derri\u00e8re chaque machine, il y aurait un \u00eatre humain ou une \u00ab personnalit\u00e9 juridique \u00bb \u2013 un agent auquel on pourrait en fin de compte assigner une responsabilit\u00e9, pour le meilleur ou pour le pire \u2013 n\u2019est plus tenable. Cette conception omet que les syst\u00e8mes complexes sont rarement, voire jamais, le produit d\u2019un auteur unique, et que les humains et les machines n\u2019op\u00e8rent pas dans des sph\u00e8res s\u00e9par\u00e9es. En effet, ils sont si intimement li\u00e9s que la notion m\u00eame d\u2019agent humain souverain, exempt de toute m\u00e9diation par la machine semble tout \u00e0 fait improbable. <\/p>\n

        Que l’on consid\u00e8re un instant un aspect seulement de la guerre des drones au Pakistan : celui de la logistique a\u00e9rienne des \u00c9tats-Unis. Le simple fait de maintenir un drone Predator dans les airs pendant 24 heures, soit la moiti\u00e9 de la dur\u00e9e d’une mission ordinaire, mobilise plus de 165 personnes. Ces besoins en personnel sont eux-m\u00eames int\u00e9gr\u00e9s dans des syst\u00e8mes socio-techniques multiples, compos\u00e9s de sous-traitants militaires, d\u2019officiers du renseignement, de sp\u00e9cialistes de l\u2019analyse de donn\u00e9es, de juristes, d\u2019ing\u00e9nieurs, de programmateurs, mais aussi de mat\u00e9riel, de logiciels, de communications par satellites et de centres d\u2019op\u00e9ration (Combined Air Operations Centre, CAOC), etc. Sans compter l’infrastructure de Recherche et d\u00e9veloppement (R&D) qui con\u00e7oit les syst\u00e8mes sans \u00e9quipag , \u00e9labore les proc\u00e9dures pour les rendre op\u00e9ratoires et proc\u00e8dent aux tests pr\u00e9liminaires, ni l’appareil administratif qui a r\u00e9uni tous ces acteurs pour cr\u00e9er l\u2019\u00e9v\u00e9nement que l\u2019on appelle une \u00ab Frappe de drone \u00bb17<\/sup><\/a><\/span><\/span>.<\/p>\n

        Dans le cas d\u2019un syst\u00e8me compl\u00e8tement automatis\u00e9, la prise de d\u00e9cision d\u00e9pend de boucles de r\u00e9troaction [feedback<\/i>] qui injectent constamment de nouvelles informations dans le syst\u00e8me et le recalibrent. De fa\u00e7on plus significative encore en termes de responsabilit\u00e9 juridique, la prise de d\u00e9cision d\u00e9pend aussi de la capacit\u00e9 du syst\u00e8me \u00e0 s\u2019auto-\u00e9duquer : la possibilit\u00e9 pour les algorithmes d\u2019apprendre et de modifier les s\u00e9quences qui les codent, ind\u00e9pendamment de toute supervision humaine. Chercher, comme l\u2019exige aujourd\u2019hui le droit p\u00e9nal, \u00e0 isoler l\u2019agent singulier directement (c\u2019est-\u00e0-dire l\u00e9galement) responsable d\u2019un accident mortel, conduit \u00e0 penser que seul le bureau ex\u00e9cutif du pr\u00e9sident des \u00c9tats-Unis pourrait, en fin de compte, \u00eatre tenu responsable des conditions composites qui, encha\u00een\u00e9es les unes aux autres, aboutissent \u00e0 une frappe de drone, et avec elle, \u00e0 l\u2019\u00e9ventualit\u00e9 de victimes civiles. <\/p>\n

        \u00c9tant donn\u00e9 que les \u00c9tats-Unis ne reconnaissent pas la comp\u00e9tence de la Cour p\u00e9nale internationale et l\u2019article 25 du statut de Rome fixant les r\u00e8gles en mati\u00e8re de responsabilit\u00e9 p\u00e9nale individuelle, quelles seraient d\u00e8s lors les formules juridiques nouvelles qui pourraient \u00eatre cr\u00e9\u00e9es pour rendre compte d\u2019une causalit\u00e9 indirecte et composite, laquelle recouvre toute une s\u00e9rie d\u2019\u00e9v\u00e9nements, y compris les agissement de ceux que l\u2019on appelle les \u00ab auteurs num\u00e9riques \u00bb ? Le droit am\u00e9ricain de la responsabilit\u00e9 civile, organisant les r\u00e8gles relatives \u00e0 la r\u00e9paration des pr\u00e9judices r\u00e9sultant de fautes civiles, pourrait servir de mod\u00e8le, utile dans ces questionnements.<\/p>\n

        Les proc\u00e9dures judiciaires relatives \u00e0 l\u2019\u00e9mission de produits polluants dans l\u2019environnement sont \u00e0 ce sujet particuli\u00e8rement instructives. La pollution atmosph\u00e9rique est un ph\u00e9nom\u00e8ne tr\u00e8s r\u00e9pandu et ses effets l\u00e9taux ne se manifestent souvent qu\u2019apr\u00e8s plusieurs d\u00e9cennies, impliquant un ensemble \u00e9galement complexe d\u2019agents humains et non-humains. Les actions en justice dans des cas de pollution atmosph\u00e9rique se sont fray\u00e9es un chemin devant les tribunaux, bien que l\u2019issue en ait g\u00e9n\u00e9ralement \u00e9t\u00e9 d\u00e9favorable pour les plaignants. Dans ce domaine, les contentieux les plus marquants r\u00e9sultent d\u2019actions de groupe, men\u00e9es par de nombreux plaignants en mati\u00e8re de pr\u00e9judice li\u00e9 \u00e0 des produits toxiques, et notamment le recours \u00e0 l\u2019agent orange comme d\u00e9foliant au Vietnam ou la catastrophe du Bhopal en Inde18<\/sup><\/a><\/span><\/span>. Mais en dernier ressort, l\u2019efficacit\u00e9 de cette approche doit \u00eatre jug\u00e9e \u00e0 la lumi\u00e8re du r\u00e9sultat escompt\u00e9 par l\u2019assignation d\u2019une responsabilit\u00e9 : dans les cas que je viens de mentionner, la d\u00e9marche visait moins la dissuasion ou la punition que des dommages et int\u00e9r\u00eats r\u00e9parant les pr\u00e9judices subis.
        \n 
        \n        \"WarGames8\"<\/a>
        \n <\/p>\n

        Reprogrammer la loi<\/h4>\n

        Les machines peuvent \u00eatre con\u00e7ues de mani\u00e8re \u00e0 incorporer un degr\u00e9 sup\u00e9rieur d\u2019intentionnalit\u00e9, et leurs performances d\u00e9passeront, dans bien des cas, celles des humains. Le d\u00e9veloppement des syst\u00e8mes sans \u00e9quipage devra d\u00e8s lors prendre en compte un nombre plus grand de variables pour d\u00e9terminer si les conditions d\u2019une ex\u00e9cution sont remplies, y compris les contextes g\u00e9opolitiques changeants et les cadres juridiques incertains. La mise au point de m\u00e9canismes de s\u00fbret\u00e9 int\u00e9gr\u00e9s contribuent \u00e0 cr\u00e9er les conditions d\u2019un r\u00e9gime de prise de d\u00e9cision proto-morale, interrompant une intervention lorsque surgissent dans le champ d\u2019action des sujets humains d\u2019une taille sp\u00e9cifique (des enfants), d\u2019un \u00e2ge ou d\u2019un sexe d\u00e9termin\u00e9s (des m\u00e2les de moins de 18 ans). Mais, politiquement parlant, faut-il vraiment se focaliser sur l\u2019int\u00e9gration de contraintes \u00e9thiques au d\u00e9veloppement des syst\u00e8mes t\u00e9l\u00e9-pilot\u00e9s lorsqu\u2019on veut contrecarrer le sc\u00e9nario d\u2019une mise \u00e0 mort par algorithmes ? Dit autrement, nous est-il encore possible de saper l\u2019impunit\u00e9 dont jouissent actuellement certains assemblages socio-techniques ? Comme l\u2019affirme en 2009 un rapport de la Royal Academy of Engineering consacr\u00e9 aux syst\u00e8mes autonomes : <\/p>\n

        La gouvernance des syst\u00e8mes autonomes peut difficilement se fonder sur les mod\u00e8les juridiques et r\u00e9glementaires qui se r\u00e9f\u00e8rent aux syst\u00e8mes g\u00e9r\u00e9s par des op\u00e9rateurs humains. De plus, dans sa forme pr\u00e9sente, le droit \u00e9tablit une distinction entre op\u00e9rateurs humains et syst\u00e8mes techniques et exige qu\u2019un agent humain soit responsable d\u2019un syst\u00e8me autonome et automatis\u00e9. Toutefois, les technologies qui sont utilis\u00e9es soit pour augmenter les performances humaines soit pour compenser des d\u00e9ficits cognitifs ou moteurs sont susceptibles de g\u00e9n\u00e9rer des agents hybrides\u2026 En l\u2019absence d\u2019un cadre juridique pour les technologies autonomes, il existe un risque que ces agents essentiellement humains ne puissent \u00eatre jug\u00e9s l\u00e9galement responsables de leurs actions \u2013 reste alors \u00e0 savoir qui pourrait encore l\u2019\u00eatre19<\/sup><\/a><\/span><\/span>.<\/p>\n

        Une strat\u00e9gie juridique plus efficace pourrait \u00eatre d\u2019impliquer un ensemble plus large d\u2019agents, y compris algorithmiques, qui apportent leur concours \u00e0 la r\u00e9alisation d\u2019actes de ce type, m\u00eame si l\u2019\u00e9largissement des limites de la responsabilit\u00e9 p\u00e9nale est un processus complexe. Comme le formule l\u2019\u00ab \u00c9tude sur la responsabilit\u00e9 p\u00e9nale au Sri Lanka \u00bb, publi\u00e9e en 2009 par l\u2019European Center for Constitutional and Human Rights : \u00ab Les individus qui exercent le pouvoir de rendre possible les crimes qui ont \u00e9t\u00e9 commis, peuvent \u00eatre tenus p\u00e9nalement responsables comme auteurs du crime. C\u2019est au sein des minist\u00e8res civils, tels que le minist\u00e8re de la D\u00e9fense ou le Bureau du pr\u00e9sident, que l\u2019on trouve habituellement les auteurs de ces crimes20<\/sup><\/a><\/span><\/span>. \u00bb Descendre le long de la hi\u00e9rarchie et se focaliser sur ceux qui participent \u00e0 la production de violence en ex\u00e9cutant des ordres a \u00e9t\u00e9 une strat\u00e9gie juridique payante dans certains cas (Sri Lanka). Mais elle s\u2019est aussi r\u00e9v\u00e9l\u00e9e probl\u00e9matique dans les cas (Abu Ghraib) o\u00f9 l\u2019inculpation d\u2019officiers de rang subalterne a rompu la cha\u00eene de relations causales qui pouvait impliquer des acteurs plus haut plac\u00e9s. Bien entendu, si l\u2019objectif est la sanction, il n\u2019y a aucun sens \u00e0 traduire un algorithme devant la justice pour avoir ex\u00e9cut\u00e9 des ordres aux cons\u00e9quences mortelles, le syst\u00e8me ayant justement \u00e9t\u00e9 con\u00e7u pour les r\u00e9aliser. D\u00e8s lors, la d\u00e9marche doit s\u2019inscrire dans une strat\u00e9gie globale visant \u00e0 \u00e9tendre le champ de la causalit\u00e9, en vue d\u2019\u00e9largir la port\u00e9e de la responsabilit\u00e9 juridique. <\/p>\n

        Mon propre travail de recherche au sein du Forensic Architecture projet, aux c\u00f4t\u00e9s d\u2019Eyal Weizman et de beaucoup d\u2019autres, consiste \u00e0 d\u00e9velopper de nouvelles m\u00e9thodes d\u2019investigation spatiale et visuelle pour appuyer le travail d\u2019enqu\u00eate des Nations Unies sur l\u2019utilisation des drones arm\u00e9s. Ce travail offre un point de vue sp\u00e9cifique pour r\u00e9fl\u00e9chir \u00e0 la mani\u00e8re dont les \u00ab champs machiniques \u00bb sont en train de recomposer ceux de l\u2019action politique, appelant \u00e0 concevoir de nouvelles strat\u00e9gies juridiques21<\/sup><\/a><\/span><\/span>. Si l\u2019on prend au s\u00e9rieux la capacit\u00e9 d’action dont les \u00ab choses \u00bb disposent, nous devons aussi consid\u00e9rer la capacit\u00e9 \u00e0 agir de celles dont le champ de production est mis au service de la d\u00e9cision m\u00eame de tuer. En op\u00e9rant largement au-del\u00e0 des limites de la perception humaine, les calculs par ordinateur ont produit des conjonctions informatiques qui ont redistribu\u00e9 et transform\u00e9 les espaces au sein desquels se produit l\u2019action. La nature m\u00eame de ces actions lourdes de cons\u00e9quences a \u00e9t\u00e9 modifi\u00e9e. Lorsqu\u2019on enr\u00f4le des algorithmes pour l\u2019emporter contre le terrorisme et pour calculer qui peut et doit \u00eatre tu\u00e9, n\u2019est-il pas n\u00e9cessaire de produire une politique adapt\u00e9e \u00e0 ces formes tr\u00e8s radicales de calcul, ainsi qu’un cadre juridique suffisamment souple pour d\u00e9lib\u00e9rer sur des \u00e9v\u00e9nements de ce type ? <\/p>\n

        Confier la prise de d\u00e9cision \u00e0 des syst\u00e8mes automatis\u00e9s produira de nouveaux rapports de pouvoir pour lesquels nous ne disposons pas encore de cadres juridiques ou de modes de r\u00e9sistance politique adapt\u00e9s. Il est peut-\u00eatre plus important encore de noter que nous n\u2019avons pas de compr\u00e9hension collective suffisante de la mani\u00e8re dont ces d\u00e9cisions peuvent \u00eatre prises et fond\u00e9es. Comme le sugg\u00e8re l\u2019arr\u00eat Daubert<\/i>, le savoir scientifique sur les processus techniques n\u2019appartient pas exclusivement au domaine de la science. <\/i>Les exigences de responsabilit\u00e9 et de supervision publiques n\u00e9cessiteront toutefois un degr\u00e9 de participation plus grand dans les cadres \u00e9pist\u00e9mologiques qui organisent et contr\u00f4lent ces syst\u00e8mes socio-techniques. Le d\u00e9fi sera vraisemblablement, pour nous tous, consid\u00e9rable. Quel type d\u2019assembl\u00e9e publique serait \u00e0 m\u00eame de contrecarrer la cl\u00f4ture pr\u00e9matur\u00e9e de ce que Bruno Latour appelle une certaine \u00ab \u00e9pist\u00e9mologie des faits \u00bb, aujourd\u2019hui dissimul\u00e9s sous un voile de secret appel\u00e9 \u00ab la s\u00e9curit\u00e9 nationale \u00bb \u2013 ce m\u00eame \u00e9tat de faits qui dessine la feuille de route du DoD pour les syst\u00e8mes de drone ? <\/p>\n

        Dans une r\u00e9cente interview donn\u00e9e \u00e0 la cha\u00eene de radio ABC, Sarah Knuckey, directrice du \u00ab Project on Extrajudicial Executions \u00bb de la New York University Law School, soulignait que la guerre des drones a rudement \u00e9prouv\u00e9 les conventions internationales et, dans le m\u00eame \u00e9lan, la protection des civils22<\/sup><\/a><\/span><\/span>. Les \u00ab r\u00e8gles de la guerre \u00bb sont \u00ab d\u00e9j\u00e0 d\u00e9sesp\u00e9r\u00e9ment d\u00e9su\u00e8tes \u00bb, affirme-t-elle, et vont exiger \u00ab l’\u00e9laboration de nouvelle obligations \u00bb : \u00ab Je constate un fort degr\u00e9 d\u2019inqui\u00e9tude au sujet des pratiques actuelles des \u00c9tats-Unis et des r\u00e8gles qui les sous-tendent. Mais, dans une perspective de long terme, en particulier du point de vue des avocats qui exercent en dehors des \u00c9tats-Unis, il y a lieu de s\u2019inqui\u00e9ter non seulement de ce qu\u2019il se passe aujourd\u2019hui, mais aussi de ce que cela signifiera dans dix, quinze ou vingt ans.23<\/sup><\/a><\/span><\/span>  \u00bb<\/p>\n

        Ces nouvelles obligations \u2013 ces nouvelles r\u00e8gles juridiques \u2013 pourront-elles jouer un r\u00f4le pr\u00e9ventif similaire \u00e0 celui des logiciels et des technologies qui sont en cours de d\u00e9veloppement, ce que j\u2019appellerai un sens projectif <\/i>du droit ? Pourraient-elles s\u2019inspirer de l\u2019esprit des Conventions de Gen\u00e8ve qui prot\u00e8gent les droits des non-combattants, plut\u00f4t que des protocoles, qui \u00e0 l\u2019instar des Conventions de la Hague de 1899 et de 1907, d\u00e9finissent l\u2019usage des armes de guerre. Ces conventions, sont en effet r\u00e9actives dans leur formulation et centr\u00e9es sur des \u00e9v\u00e9nements. Si tel \u00e9tait le cas, si nous choisissions de nous inspirer de ces Conventions, il faudrait consid\u00e9rer un cadre juridique qui ne soit pas tant r\u00e9gl\u00e9 par une logique jurisprudentielle \u2013 par ce qui est advenu dans le pass\u00e9 \u2013 mais, plut\u00f4t, par ce qui pourrait arriver dans le futur.
        \n 
        \n        Images tir\u00e9es du film Wargames<\/i> de John Badham, 1983.<\/a>
        \n 
        \n        \"WarGames3\"<\/a>
        \n 
        \n\u00c0 lire \u00e9galement :<\/strong> <\/p>\n

        \u00ab G\u00e9ographies du drone \u00bb, Derek Gr\u00e9gory, traduction par \u00c9milien Bernard, Jef Klak n\u00b01 (Marabout)<\/i>, en librairie.<\/p>\n

        \u00ab \u00c0 jouer la gu\u00e9guerre des machines, nous serons toujours perdants \u00bb<\/a>, Entretien crois\u00e9 avec Gr\u00e9goire Chamayou et Thomas Hippler. Propos recueillis par Ferdinand Cazalis, Article 11<\/i>.<\/p>\n

        \u00ab Isra\u00ebl et la “guerre humanitaire” \u00bb<\/a>, Eyal Weizman, traduction par R\u00e9my Toulouse, Article 11<\/i>.<\/p>\n

        Th\u00e9orie du drone<\/i>, Gr\u00e9goire Chamayou, \u00e9d. La Fabrique, 2013, en librairie.<\/p>\n

        La Vie algorithmique, Critique de la raison num\u00e9rique<\/i>, \u00c9ric Sadin, \u00e9d. L’\u00e9chapp\u00e9e, 2015, en librairie.<\/p>\n

         <\/p>\n

        \n
        \n Notes de la traductrice :\n <\/div>\n
          \n
        1. Les algorithmes g\u00e9n\u00e9tiques op\u00e8rent analogiquement sur les principes de l’\u00e9volution des esp\u00e8ces (enjambements, mutations et s\u00e9lection).↩<\/a><\/span><\/li>\n
        2. Base de donn\u00e9es listant les informations au sujet des ennemis \u00e0 abattre sans proc\u00e8s public ni conventionnel, utilis\u00e9e par le gouvernement Obama au sein de la \u00ab Disposition Matrix \u00bb (sic), et mise en application principalement par des attaques de drones. John Brennan, en charge du d\u00e9partement Homeland Security est le principal coordinateur de cette kill list<\/i>, faisant dire au New York Times<\/i>, qu’il est \u00ab probablement l’homme qui a eu le plus de pouvoir et d’influence dans une position comparable au cours des 20 derni\u00e8res ann\u00e9es<\/i> \u00bb. Robert Mazzetti, Mark Shane Scott, \u00ab Drone Strikes\u2019 Dangers to Get Rare Moment in Public Eye \u00bb. The New York Times<\/i>, 5 f\u00e9v. 2013.↩<\/a><\/span><\/li>\n
        3. Sur l’influence des sc\u00e9narios de films hollywoodiens dans les rapports officiels de la D\u00e9fense \u00e9tats-unienne, notamment autour du paradigme \u00ab Terminator \u00bb, voir \u00ab Et vous trouvez \u00e7a drone ? Enqu\u00eate sur l\u2019automatisation de la guerre et la robotisation de la police \u00bb, Revue Z n\u00b02<\/i>, Automne 2009.↩<\/a><\/span><\/li>\n
        4. La common law<\/i> vise le droit des pays issus de la tradition juridique britannique. Les syst\u00e8mes juridiques de common law<\/i> reposent sur la r\u00e8gle du pr\u00e9c\u00e9dent selon laquelle le juge doit respecter les r\u00e8gles pos\u00e9es par ses pairs dans des d\u00e9cisions ant\u00e9rieures. Le droit de la common law<\/i> se construit donc \u00e0 partir des d\u00e9cisions prises par les juges dans des cas concrets, par opposition aux syst\u00e8mes dits de droit continental, comme la France, o\u00f9 le droit est issu de r\u00e8gles pos\u00e9es par le l\u00e9gislateur et compil\u00e9 dans des codes. Cette opposition est bien \u00e9videmment sch\u00e9matique, d\u00e8s lors que la jurisprudence joue un r\u00f4le important en France, de m\u00eame que les \u00c9tats-Unis disposent d\u2019un corpus l\u00e9gislatif qui s\u2019impose aux juges.↩<\/a><\/span><\/li>\n
        5. Par l\u2019arr\u00eat Daubert, les juges de la Cour supr\u00eame des \u00c9tats-Unis ont fix\u00e9 des r\u00e8gles permettant de d\u00e9terminer si le t\u00e9moignage scientifique d\u2019un expert peut \u00eatre recevable en justice.↩<\/a><\/span><\/li>\n<\/ol><\/div>\n

           <\/p>\n

          Notes<\/span>[+<\/a>]<\/span><\/p><\/div>

          \r\n\r\n
          ↩<\/span>1<\/a><\/td> Voir, par exemple, le recours aux images satellite dans des programmes de surveillance et de documentation des exactions : \u00ab Eyes on Darfur<\/a> \u00bb et \u00ab The Sentinel Project for Genocide Prevention<\/a> \u00bb.<\/td><\/tr>\r\n\r\n
          ↩<\/span>2<\/a><\/td> Cori Crider, \u00ab Killing in the Name of Algorithms: How Big Data Enables the Obama Administration\u2019s Drone War<\/a> \u00bb, Al Jazeera America<\/i>, 2014 ; consult\u00e9 le 18 mai 2014. Voir aussi l\u2019organigramme dans Daniel Byman et Benjamin Wittes, <\/i>\u00ab How Obama Decides Your Fate if He Thinks You\u2019re a Terrorist<\/a> \u00bb, The Atlantic<\/i>, 3 janvier 2013.<\/td><\/tr>\r\n\r\n
          ↩<\/span>3<\/a><\/td> Pour une analyse r\u00e9cente des g\u00e9ographies multiples et composites dans lesquelles sont men\u00e9es les op\u00e9rations de drones, voir Derek Gregory, \u00ab G\u00e9ographies du drone \u00bb, Jef Klak n\u00b01, Marabout<\/i>, sept. 2014. \u00ab Drone Geographies \u00bb, Radical Philosophy <\/i>183 (janvier\/f\u00e9vrier 2014), pp. 7\u201319.<\/td><\/tr>\r\n\r\n
          ↩<\/span>4<\/a><\/td> Les th\u00e9oriciens de l\u2019information contemporains affirmeraient que le mod\u00e8le des boucles de r\u00e9gulation et de r\u00e9troaction de la cybern\u00e9tique du second ordre ne prend pas en consid\u00e9ration le caract\u00e8re impr\u00e9visible des donn\u00e9es \u00e9volutives internes au syst\u00e8me, qui r\u00e9sulte du traitement de bases de donn\u00e9es en expansion. Voir l\u2019introduction de Luciana Parisi \u00e0 Contagious Architecture: Computation, Aesthetics, and Space<\/i>, MIT Press, Cambridge MA, 2013. Pour une discussion de la cybern\u00e9tique de Wiener dans ce contexte, voir Reinhold Martin, \u00ab The Organizational Complex: Cybernetics, Space, Discourse \u00bb, Assemblage <\/i>37, 1998, p. 110.<\/td><\/tr>\r\n\r\n
          ↩<\/span>5<\/a><\/td> DOD, Unmanned Systems Integrated Roadmap Fy2011\u20132036<\/i><\/a>, Office of the Undersecretary of Defense for Acquisition, Technology, & Logistics, Washington, DC, 2011, p. 3.<\/td><\/tr>\r\n\r\n
          ↩<\/span>6<\/a><\/td> Ibid<\/i>., pp. 1\u201310.<\/td><\/tr>\r\n\r\n
          ↩<\/span>7<\/a><\/td> Ibid<\/i>., p. 27.<\/td><\/tr>\r\n\r\n
          ↩<\/span>8<\/a><\/td> Merel Noorman et Edward N. Zalta, \u00ab Computing and Moral Responsibility<\/a> \u00bb, The Stanford Encyclopedia of Philosophy <\/i>(2014).<\/td><\/tr>\r\n\r\n
          ↩<\/span>9<\/a><\/td> Voir John Dewey, \u00ab The Historic Background of Corporate Legal Personality \u00bb, Yale Law Journal<\/i>, vol. 35, no. 6, 1926, pp. 656, 669.<\/td><\/tr>\r\n\r\n
          ↩<\/span>10<\/a><\/td> Data & Society Research Institute, \u00ab Workshop Primer: Algorithmic Accountability \u00bb, The Social, Cultural & Ethical Dimensions of \u2018Big Data\u2019 <\/i>workshop, 2014, p. 3.<\/td><\/tr>\r\n\r\n
          ↩<\/span>11<\/a><\/td> Voir Gunther Teubner, \u00ab Rights of Non-Humans? Electronic Agents and Animals as New Actors in Politics and Law \u00bb, Journal of Law & Society<\/i>, vol. 33, no.4, 2006, pp. 497\u2013521.<\/td><\/tr>\r\n\r\n
          ↩<\/span>12<\/a><\/td> Voir Bradley Jay Strawser, \u00ab Moral Predators: The Duty to Employ Uninhabited Aerial Vehicles \u00bb, Journal of Military Ethics<\/i>, vol. 9, no. 4, 2010, pp. 342\u201368.<\/td><\/tr>\r\n\r\n
          ↩<\/span>13<\/a><\/td> Sabine Gless and Herbert Zech, \u00ab Intelligent Agents: International Perspectives on New Challenges for Traditional Concepts of Criminal, Civil Law and Data Protection \u00bb, texte pour Intelligent Agents workshop, 7\u20138 f\u00e9vrier 2014, University of Basel, Faculty of Law.<\/td><\/tr>\r\n\r\n
          ↩<\/span>14<\/a><\/td> Agence-France Presse, \u00ab The Next Wave in U.S. Robotic War: Drones on Their Own<\/a> \u00bb, Defense News<\/i>, 28 septembre 2012, p. 2.<\/td><\/tr>\r\n\r\n
          ↩<\/span>15<\/a><\/td> Interrog\u00e9 sur la frappe de drone qui a tu\u00e9 en 2011 au Y\u00e9men Abdulrahman al-Awlaki, un adolescent de seize ans n\u00e9 sur le sol am\u00e9ricain et fils de Anwar Al-Awlaki, un religieux radicalis\u00e9, Robert Gibbs, l\u2019ancien attach\u00e9 de presse de la Maison Blanche et conseiller principal pour la campagne de r\u00e9\u00e9lection du Pr\u00e9sident Obama, r\u00e9pondit que le jeune homme aurait d\u00fb avoir un \u00ab p\u00e8re plus responsable \u00bb.<\/td><\/tr>\r\n\r\n
          ↩<\/span>16<\/a><\/td> Greg Miller, \u00ab Plan for Hunting Terrorists Signals U.S. Intends to Keep Adding Names to Kill Lists<\/a> \u00bb, Washington Post<\/i>, 23 otcobre 2012.<\/td><\/tr>\r\n\r\n
          ↩<\/span>17<\/a><\/td> \u00ab Cela peut sembler paradoxal, mails il faut beaucoup plus de personnes pour op\u00e9rer un avion sans pilote que pour faire voler les avions de guerre traditionnels. Selon l\u2019Air Force, il ne faut pas moins de 168 personnes pour faire voler un Pr\u00e9dateur pendant seulement vingt-quatre heures! Pour le drone de surveillance plus large Global Hawk, ce nombre grimpe \u00e0 300 personnes. Par contraste, il faut moins de cent personnes par mission pour un avion de combat F-16. \u00bb Medea Benjamin, Drone Warfare: Killing by Remote Control<\/i>, Verso, London and New York, 2013, p. 21.<\/td><\/tr>\r\n\r\n
          ↩<\/span>18<\/a><\/td> Voir Peter H. Schuck, Agent Orange on Trial: Mass Toxic Disasters in the Courts<\/i>, Belknap Press of Harvard University Press, Cambridge MA, 1987. Voir aussi : www.bhopal.com\/bhopal-litigation<\/a>.<\/td><\/tr>\r\n\r\n
          ↩<\/span>19<\/a><\/td> Royal Academy of Engineering, Autonomous Systems: Social, Legal and Ethical Issues<\/i>, RAE, London, 2009, p. 3, www.raeng.org.uk\/societygov\/engineeringethics\/pdf\/Autonomous_Systems_Report_09.pdf.<\/td><\/tr>\r\n\r\n
          ↩<\/span>20<\/a><\/td> European Center for Constitutional and Human Rights, Study on Criminal Accountability in Sri Lanka as of January 2009<\/i>, ECCHR, Berlin, 2010, p. 88.<\/td><\/tr>\r\n\r\n
          ↩<\/span>21<\/a><\/td> Ont fait partie de l\u2019\u00e9quipe de recherche sur les frappes de drones du projet Forensic Architecture : Jacob Burns, Steffen Kraemer, Francesco Sebregondi et SITU Research. Voir www.forensic-architecture.org\/case\/drone-strikes<\/a>.<\/td><\/tr>\r\n\r\n
          ↩<\/span>22<\/a><\/td> Bureau of Investigative Journalism, \u00ab Get the Data: Drone Wars<\/a> \u00bb.<\/td><\/tr>\r\n\r\n
          ↩<\/span>23<\/a><\/td> Annabelle Quince, \u00ab Future of Drone Strikes Could See Execution by Algorithm \u00bb, Rear Vision<\/i>, ABC Radio, edited transcript, pp. 2\u20133.<\/td><\/tr>\r\n\r\n <\/tbody> <\/table> <\/div><\/div>