GPT-6 Astra surpasse d’autres IA dans Minecraft, mais s’effondre lorsqu’il perd ses objets
Les enregistrements du test montrent des erreurs et des comportements inattendus du modèle d'OpenAI après sa mort et la perte de son progrès.
Sommet sur l'intelligence artificielle : le document signé par les pays participants met en garde contre de possibles conséquences « catastrophiques »
Les gouvernements du monde réunis depuis mercredi lors d'un sommet sur la sécurité sur l'intelligence artificielle (IA) au Royaume-Uni ont mis en garde dans une déclaration commune contre les potentielles conséquences "catastrophiques" de cette nouvelle technologie.
Les États-Unis , la Chine , l'Inde et des pays de l'Union européenne comme la France , l'Allemagne , l'Italie et l'Espagne font partie des 29 signataires d'un texte qui souligne qu'il est « particulièrement urgent » d'analyser les dangers présentés par les nouvelles technologies et de se mettre d'accord sur des mesures préventives précoces. mesures. Seules des entreprises du Brésil et du Chili apparaissent en Amérique du Sud.
"Nous nous engageons à travailler ensemble de manière inclusive pour garantir une intelligence artificielle centrée sur l'humain, fiable et responsable", indique la déclaration, adoptée avant le sommet et qui souligne que la meilleure façon de faire face aux risques est "la coopération internationale". .
Réunis à Bletchley Park , l'enclave anglaise où les codes nazis ont été décodés pendant la Seconde Guerre mondiale, les représentants des principales puissances mondiales du secteur technologique ont confirmé le « potentiel transformateur » de l'IA , qui peut favoriser « « le bien-être, la paix et la paix ». prospérité."
Toutefois, à ces avantages possibles s'ajoutent des « risques importants » qui nécessitent de veiller à ce que le développement de la technologie reste sous « une supervision humaine adéquate ».
La déclaration reconnaît le danger que l'IA génère des contenus « manipulés » ou « trompeurs » , et appelle à l'action à cet égard, mais va plus loin et met en garde contre les menaces futures des systèmes d'information « frontaliers », qui dépasseront les capacités de la plupart des systèmes actuels. modèles avancés.
Outre la désinformation , les gouvernements se déclarent particulièrement préoccupés par les applications de l'IA dans des domaines tels que la cybersécurité et la biotechnologie.
"Il existe un risque que des dommages graves, voire catastrophiques, se produisent, qu'ils soient délibérés ou non", souligne la déclaration commune.
"Compte tenu du rythme rapide et incertain du changement dans l'IA, et dans le contexte d'une accélération des investissements technologiques, nous affirmons qu'il est particulièrement urgent d'approfondir notre compréhension de ces risques potentiels et des actions pour les atténuer", ajoute le communiqué.
Le Royaume-Uni a promu le premier sommet mondial sur la sécurité sur l'intelligence artificielle (AISS), qui se tiendra à nouveau dans six mois en République de Corée et dans un an en France.
Cette première réunion, qui durera jusqu'à jeudi, rassemble, outre les gouvernements, des représentants des principales entreprises technologiques mondiales, telles que OpenAI , Google DeepMind , Anthropic , Meta et Microsoft .
La liste complète des 29 pays qui ont signé la déclaration de Bletchley :
Australie
Brésil
Canada
le Chili
Chine
Union européenne
France
Allemagne
Inde
Indonésie
Irlande
Israël
Italie
Japon
Kenya
Arabie Saoudite
Pays-Bas
Nigeria
Philippines
République de Corée
Rwanda
Singapour
Espagne
Suisse
Turquie
Ukraine
Émirats arabes unis
Royaume-Uni
États Unis
Bibliothèque Mot Avec
Pour aller plus loin
Trois guides choisis en fonction du sujet de cet article.
Cybersécurité pratique pour non-techniciens
Réduisez les risques qui comptent vraiment, sans jargon ni fausse promesse de sécurité parfaite.
Découvrir le livre
Trouver un emploi à l’ère de l’IA
Utilisez les nouveaux outils sans perdre votre voix, votre crédibilité ni le contrôle de vos données.
Découvrir le livre
Écrire efficacement au travail
Produisez des écrits courts, précis et actionnables, adaptés au lecteur, au risque et au canal.
Découvrir le livre
À lire ensuite
Mark Zuckerberg a exclu de ralentir la course à l'intelligence artificielle : « Les gens ne voudront pas utiliser des modèles qui ne correspondent pas à leurs intérêts. »
Ses déclarations contrastent avec les avertissements qui circulent dans une grande partie de l'industrie technologique, où l'idée selon laquelle les systèmes d'IA pourraient devenir incontrôlables se répète.
L'IA prend désormais des décisions et laisse de côté la simple rédaction d'e-mails dans les entreprises.
Actuellement, il existe des agents d'IA qui analysent les données, détectent les causes des problèmes et proposent des actions.
Pourquoi le Pérou ne devrait pas copier le frein technologique discuté par les grandes puissances concernant l'intelligence artificielle
Alors que Sam Altman et Dario Amodei appellent à la prudence dans le développement des modèles d'avant-garde, des spécialistes de l'ESAN et de l'UTEC proposent une autre agenda pour la région sud-américaine.
Malgré les risques, Bill Gates estime que l'IA « aidera à produire suffisamment d'aliments et à éradiquer les maladies ».
Le fondateur de Microsoft a affirmé que ces outils peuvent stimuler des avancées dans la santé et l'agriculture, allant des traitements médicaux à de meilleures décisions pour les cultures.