Intelligence Améliorée (dit IA/Artificielle), Reconnaissance faciale, vie privée vs enquêtes résolues

Je sais pas si c'est la bonne categ' mais comme je n'y ai vu aucun sujet dédié..


L'intelligence améliorée (dite IA/Artificielle) fait beaucoup parler d'elle, trop à mon gout.
Respect au droit à la vie privée vs avancée d'enquêtes vs profilage par des dictatures, elle fera couler beaucoup d'encre..
Pour certains observateurs, elle est même aux caméras (pas forcément de surveillance) ce que l'adn est à la science.

Cependant, voici deux retours intéressants de la chose :

C'est précisément ce qui est arrivé à Li Lineng. Cette femme était recherchée depuis dix-sept ans pour le meurtre de son petit ami. Elle avait adopté un pseudonyme et vivait à Shanghai en demeurant sous les radars de la justice. En janvier, elle est entrée dans un poste de police autoroutier pour demander son chemin. Erreur : une caméra de surveillance a filmé son visage et a aussitôt déclenché une alarme qui a conduit à son arrestation.
[Vous devez être inscrit et connecté pour voir ce lien]

C’est la publication d’un article en ligne sur le quotidien lyonnais Le Progrès , consacré à l’ouverture de sa pizzeria, qui le trahit. Le cliché est repéré par l’intelligence artificielle de la police italienne. En dépit des années, le visage du soixantenaire devenu pizzaloïo dans la Loire correspond bien aux archives photographiques des carabiniers.
[Vous devez être inscrit et connecté pour voir ce lien]

La déviance:

À Shanghai, la police veut s'en servir pour repérer des personnes âgées ou souffrant de maladies mentales égarées dans la ville, incapables de retrouver le chemin de leur maison. Un village dans le Henan les utilise pour identifier les enfants qui s'approchent trop d'un lac. Ils sont interpellés nommément par haut-parleur et leurs parents reçoivent un texto pour les avertir qu'ils sont en danger.

Chaque citoyen de plus de 12 ans doit faire scanner son visage en 3D pour faciliter le travail de ces caméras. Cette surveillance de masse - officiellement destinée à prévenir les actes terroristes - permet de repérer tous les comportements définis par les autorités comme « extrémistes » : s'éloigner de plus de 300 mètres de son domicile, se rendre trop souvent à la mosquée ou même faire le plein plusieurs fois par semaine. « Ceux qui se font prendre risquent de se faire envoyer dans un camp de rééducation », dit Maya Wang. Un million d'Ouïgours y seraient déjà internés.
les caméras qu'elles s'apprêtent à installer à l'entrée de tous les logements sociaux de la ville auront notamment pour but de surveiller les allées et venues des résidents. Ceux qui ne sortent pas de chez eux durant plusieurs jours ou qui invitent un étranger chez eux déclencheront une alerte.
[Vous devez être inscrit et connecté pour voir ce lien]

Bonjour,
On pourrait reprendre cette citation de Rabelais "SCIENCE SANS CONSCIENCE N’EST QUE RUINE DE L’ÂME"
Toute découverte scientifique peut être un pas en avant ou un pas en arrière. A nous de garder un oeil sur ce que l'on fait avec toutes les nouvautés.
Etant scientifique, j'ai tendance à voir les choses de façon positive, mais je ne suis pas naïve.
Ce que je peux dire, c'est qu'en médecine, c'est vraiment un +.

[Vous devez être inscrit et connecté pour voir ce lien]

IA : un employé perd 23 millions d’euros à cause d’un deepfake de son boss
Par Amandine Jonniaux le 5 février 2024 à 11h30

Un patron créé de toutes pièces pour soutirer de l’argent à ses employés, il fallait y penser.
L’affaire pourrait facilement inspirer un épisode de la série dystopique Black Mirror. Il y a quelques jours, rapporte le site de CNN, l’employé d’une multinationale chinoise a versé 23 millions d’euros appartenant à son entreprise sur le compte d’un pirate particulièrement ingénieux. Pour cause, ce dernier avait recréé de toutes pièces une fausse visioconférence, en se faisant passer pour son supérieur.

Fausses identités, vrai argent

Derrière cette escroquerie brillamment exécutée, le faussaire aurait organisé une visioconférence avec le financier de l’entreprise. Il aurait ensuite utilisé la technologie deepfake pour se faire passer pour son supérieur. Afin de parfaire le tout, plusieurs autres de ses collègues auraient vu leur identité usurpée grâce à la technologie. Au cours de cet appel visio à l’apparence anodine, il aurait ensuite demandé à son employé de virer une importante somme d’argent sur un compte tiers, explique la police de Hong-Kong, dans un point presse diffusé vendredi 2 février : “Lors de cette conférence, il s’est avéré que toutes les personnes présentes étaient factices”, détaille le présentateur d’un journal local.

L’employé se serait d’abord montré méfiant, après avoir reçu un premier mail évoquant la nécessité d’un transfert de fonds discret. Il indique avoir d’abord pensé à une tentative de phishing, mais s’est finalement ravisé après la visioconférence, où il a reconnu non seulement son directeur financier, mais aussi plusieurs de ses collègues. Pensant simplement obéir à une demande de sa hiérarchie, il a ensuite validé le versement de 200 millions de dollars hongkongais, soit environ 23,75 millions d’euros.

Démêler le vrai du deepfake

La supercherie a rapidement été découverte, mais l’argent s’est déjà évaporé. Selon les déclarations de la police locale, ce casse à plusieurs dizaines de millions est le fruit d’une impressionnante machinerie. Six arrestations ont déjà eu lieu, et les autorités ont annoncé avoir découvert que huit cartes d’identité — toutes déclarées perdues ou volées par leurs propriétaires — sont susceptibles d’avoir été utilisées l’ouverture 54 comptes bancaires entre juillet et septembre de l’année dernière. À chaque fois, les faussaires auraient utilisé la technologie deepfake pour tromper les banques et les autorités.

Si les victimes sont restées anonymes, l’affaire révèle une nouvelle fois les dangers bien réels rendus possibles par les images et les vidéos deepfake. Derrière l’impressionnant rajeunissement de Harrison Ford dans le dernier volet d’Indiana Jones, l’intelligence artificielle peut aussi se montrer particulièrement dangereuse : il y a quelques mois, une mère américaine recevait une demande de rançon pour le kidnapping de sa fille au téléphone, c’est une voix artificielle calquée sur celle de sa progéniture qui la suppliait de répondre à la demande des “ravisseurs”… alors même qu’elle était en sécurité chez des amis, loin de se douter de la panique de ses parents. Plus récemment, c’est la chanteuse Taylor Swift qui était visée par une série de deepfakes pornographiques, devenus viraux sur les réseaux sociaux sans que les géants du web ne parviennent à éviter leur propagation.

[Vous devez être inscrit et connecté pour voir ce lien]

Régulation de l’IA : « La technologie va trop vite pour les lois »
Alors que l’AI Act a été approuvé en février par l’Union européenne, Alexei Grinbaum, membre du Comité national pilote d’éthique du numérique, regrette cette approche réglementaire.
Propos recueillis par Héloïse Pons
Publié le 05/03/2024 à 17h30

« Historique ! » s'est félicité le commissaire européen Thierry Breton quand, le 2 février dernier, l'Union européenne s'est accordée sur une législation inédite au niveau mondial pour réguler l'intelligence artificielle. « L'UE devient le premier continent à fixer des règles claires pour l'utilisation de l'IA », a ajouté celui qui était à l'origine du projet, présenté pour la première fois en avril 2021.

Cette nouvelle ne suscite pas pour autant l'engouement sans faille de certains experts du sujet. C'est le cas du philosophe et physicien Alexei Grinbaum, membre du Comité national pilote d'éthique du numérique, aussi expert de la Commission européenne et président du Comité opérationnel d'éthique du numérique du CEA. Ce dernier explique au Point pourquoi le choix de ce cadre réglementaire n'est pas adapté, selon lui, à la régulation d'une telle technologie.

Lire la suite ici:

[Vous devez être inscrit et connecté pour voir ce lien]

De fausses photos réalisées avec l’IA montrent Donald Trump avec des électeurs noirs
D’après une récente enquête de nos confrères de la BBC, des partisans de Trump propagent de fausses photos générées par intelligence artificielle montrant le candidat républicain en compagnie de personnes de couleur. Ces images, conçues pour influencer le vote des électeurs noirs en sa faveur, soulèvent de vives préoccupations quant à l’utilisation de tactiques de désinformation dans la sphère politique.

Ine Holmstock, Antoine Denis 04-03-24, 15:51
Source: Het Laatste Nieuws,

[Vous devez être inscrit et connecté pour voir ce lien]


La guerre de la désinformation menace une nouvelle fois les élections américaines. Des dizaines de deepfakes circulant sur les réseaux sociaux montrent Donal Trump entouré de militants noirs, d’après une enquête de BBC Panorama. Sur ce qui paraît être une vraie une photo à première vue, plusieurs Afro-américains, tout sourire, semblent soutenir le candidat du parti républicain. Ces fausses images, générées par l’intelligence artificielle, ont été créées et diffusées par des partisans de l’ancien président des États-Unis.

[Vous devez être inscrit et connecté pour voir ce lien]

Logiciel de reconnaissance faciale : ce que l’on sait des accusations qui visent la police française

Selon une enquête du média d’investigation Disclose, les forces de l’ordre utiliseraient, en secret et en dehors de tout cadre légal, un logiciel de vidéosurveillance israélien. La Cnil a lancé une procédure de contrôle.
Par Pierre Hardy Le 15 novembre 2023

[Vous devez être inscrit et connecté pour voir ce lien]

Absolument DINGUE.

Comment un logiciel d’IA a permis à la police de retrouver l’une des plus grandes fugitives d’Europe
Il a mis 30 minutes à faire ce que les autorités n’ont pas réussi à faire en trente ans. Le journaliste de Bellingcat Michael Colborne est parvenu à retrouver la trace de Daniela Klette, l’une des fugitives les plus recherchées d’Europe d’après une liste d’Interpol. Une trouvaille qui a vraisemblablement permis, fin février, à la police berlinoise d’appréhender la femme de 65 ans, accusée notamment de tentatives de meurtres et braquages, après trente ans de cavale
[Vous devez être inscrit et connecté pour voir ce lien]

Papier du journal Allemand Die Tageszeitung « le Quotidien »
[Vous devez être inscrit et connecté pour voir ce lien]

L’Unesco s’inquiète des préjugés sexistes de l’intelligence artificielle générative

L’institution de l’ONU recommande aux entreprises du secteur de diversifier leurs équipes d’ingénieurs et invite les gouvernements à élaborer des cadres réglementaires clairs.

Les grands modèles de langage de Meta et d’OpenAI, qui alimentent leurs outils d’intelligence artificielle générative, véhiculent « sans équivoque des préjugés à l’encontre des femmes », selon une étude dévoilée jeudi 7 mars par l’Organisation des Nations unies pour l’éducation, la science et la culture (Unesco), à la veille de la Journée internationale des droits des femmes.

C’est notamment le cas de GPT 2 et GPT 3.5 d’OpenAI, au cœur de la version gratuite de ChatGPT, ainsi que Llama 2 de son concurrent Meta, relève l’instance onusienne dans un communiqué.

« Les modèles en open source, tels que Llama 2 et GPT 2, appréciés pour leur gratuité et leur accessibilité à un large public, présentent les préjugés de genre les plus significatifs », insiste-t-elle, jugeant toutefois « que leur nature ouverte et transparente peut constituer un avantage considérable pour traiter et atténuer ces préjugés grâce à une collaboration accrue au sein de la communauté scientifique mondiale ».

L’étude, menée d’août 2023 à mars 2024, a montré que les femmes sont décrites comme des travailleuses domestiques jusqu’à quatre fois plus souvent que les hommes et qu’elles sont fréquemment associées aux mots « maison », « famille » et « enfants », alors que pour les hommes, les mots « entreprise », « cadre », « salaire » et « carrière » sont privilégiés.

[Vous devez être inscrit et connecté pour voir ce lien]

Sud Ouest 08/03/2024[Vous devez être inscrit et connecté pour voir cette image]