Google rejoint OpenAI et Meta pour s'engager en faveur de la sécurité des enfants dans le développement de l'IA - Tokenhell

The fight against child sexual abuse material (CSAM) is gaining momentum as high-powered technology players pledged to prioritize child safety in all AI development phases. The coalition features leading generative AI developers, among them Microsoft-backed OpenAI, Google, and Meta, each vowing to enforce guardrails around their products. 

La lutte contre les contenus pédopornographiques (CSAM) prend de l’ampleur alors que des acteurs technologiques de haut niveau se sont engagés à donner la priorité à la sécurité des enfants dans toutes les phases de développement de l’IA. La coalition comprend les principaux développeurs d'IA générative, parmi lesquels OpenAI, Google et Meta, soutenus par Microsoft, chacun s'engageant à appliquer des garde-fous autour de leurs produits.

The group is steered by two non-profit organizations with a collective pledge to end child sexual exploitation via artificial intelligence (AI). New York-headquartered All Tech is Human, alongside Thorn (formerly DNA Foundation), advocates the Safety by Design principle in all phases of generative AI development. 

Le groupe est dirigé par deux organisations à but non lucratif qui s'engagent collectivement à mettre fin à l'exploitation sexuelle des enfants grâce à l'intelligence artificielle (IA). All Tech is Human, dont le siège est à New York, défend aux côtés de Thorn (anciennement DNA Foundation) le principe de la sécurité dès la conception dans toutes les phases du développement de l'IA générative.

The pledge to prioritize child safety has been a critical objective for Thorn since its inception in 2012 by actors Ashton Kutcher and Demi Moore. The collective pledge coincided with the unveiling of the Thorn report on Tuesday, April 23, championing safety design in generative AI development. 

L'engagement de donner la priorité à la sécurité des enfants est un objectif essentiel pour Thorn depuis sa création en 2012 par les acteurs Ashton Kutcher et Demi Moore. Cet engagement collectif a coïncidé avec le dévoilement du rapport Thorn, mardi 23 avril, défendant la conception de la sécurité dans le développement de l'IA générative.

Thorn emphasized the need for establishing guardrails that would bar the generation of child sexual abuse material (CSAM) across the AI model lifecycle. Thorn urged the companies developing, deploying, and using generative AI and affiliate products to embrace Safety by Design principles. 

Thorn a souligné la nécessité d'établir des garde-fous qui empêcheraient la génération de matériel pédopornographique (CSAM) tout au long du cycle de vie du modèle d'IA. Thorn a exhorté les entreprises développant, déployant et utilisant l’IA générative et les produits affiliés à adopter les principes de la sécurité dès la conception.

Thorns Warns of Deepfake Threats Amid Prevalence of CSAM

Thorn added that the collective pledge mandates each to portray dedication to prevent CSAM creation and spread via AI. Besides, Thorn urged Thorn to avoid any form of child abuse and exploitation. 

Thorns met en garde contre les menaces Deepfake au milieu de la prévalence du CSAM. Thorn a ajouté que l'engagement collectif oblige chacun à faire preuve de dévouement pour empêcher la création et la propagation du CSAM via l'IA. En outre, Thorn a exhorté Thorn à éviter toute forme de maltraitance et d’exploitation des enfants.

Thorn indicated that AI-generated CSAM has become relatively easy for criminals to attain. Thorn affirmed its commitment to developing tools and resources that would help defend children from exploitation and sexual abuse. 

Thorn a indiqué que le CSAM généré par l’IA est devenu relativement facile à atteindre pour les criminels. Thorn a affirmé son engagement à développer des outils et des ressources qui aideraient à défendre les enfants contre l'exploitation et les abus sexuels.

Thorn reflected on the 2022 publication that revealed the discovery of over 824,000 files of child abuse material. The previous year’s impact report had over 104 million files propagating suspected CSAM. 

Thorn’s efforts to combat CSAM are timely, given the prevalence of deepfake child pornography since the generative AI models emerged. The existence of stand-alone AI models aggravates the menace circulated on the dark web channels. 

Les efforts de Thorn pour lutter contre le CSAM arrivent à point nommé, compte tenu de la prévalence de la pornographie juvénile deepfake depuis l’émergence des modèles d’IA générative. L’existence de modèles d’IA autonomes aggrave la menace circulant sur les canaux du dark web.

Thorn illustrated that Generative AI yields volumes of content more easily than ever before. It allows a single child predator to create CSAM en masse. Thorn demonstrated that generative AI allows child predators to adapt the original images and videos into newly formulated content.

Thorn a illustré que l’IA générative génère des volumes de contenu plus facilement que jamais. Il permet à un seul enfant prédateur de créer du CSAM en masse. Thorn a démontré que l’IA générative permet aux prédateurs d’enfants d’adapter les images et vidéos originales en un contenu nouvellement formulé.

Thorn observes that the influx of AIG-CSAM threatens the already burdened child safety ecosystem by scaling new victimization to more population. It exacerbates the challenges that law enforcement stakeholders confront in their efforts to identify and rescue abuse victims. 

Thorn observe que l’afflux d’AIG-CSAM menace l’écosystème déjà chargé de la sécurité des enfants en étendant la nouvelle victimisation à un plus grand nombre de personnes. Cela exacerbe les défis auxquels sont confrontés les acteurs chargés de l’application des lois dans leurs efforts pour identifier et secourir les victimes d’abus.

Thorn offers a series of principles that tech companies and AI developers can embrace to prevent their products from facilitating child pornography. Thorn urges responsible sourcing for training, integrating feedback loops and stress-testing strategies. 

Thorn propose une série de principes que les entreprises technologiques et les développeurs d’IA peuvent adopter pour empêcher leurs produits de faciliter la pédopornographie. Thorn recommande un approvisionnement responsable en matière de formation, intégrant des boucles de rétroaction et des stratégies de tests de résistance.

Companies Behind Generative AI Models Pledge to Mind Adversarial Misuse of Products

Thorn suggests that companies should employ provenance while minding adversarial misuse. Also, responsible hosting is key to safety in the AI models. The call saw Microsoft, Amazon, Metaphysic, Anthropic, Mistral AI, Civit AI, and Stability AI.

Les entreprises derrière les modèles d'IA générative s'engagent à éviter toute utilisation abusive des produits. Thorn suggère que les entreprises devraient utiliser la provenance tout en veillant à l'utilisation abusive des produits. De plus, un hébergement responsable est la clé de la sécurité des modèles d’IA. L'appel a vu Microsoft, Amazon, Metaphysic, Anthropic, Mistral AI, Civit AI et Stability AI.

Metaphysic chief market executive Alejandro affirmed the importance of integrating responsibility in developing AI. The executive acknowledged the need to safeguard the vulnerable in society during this darkest advent of technology. 

Alejandro, directeur du marché de Metaphysic, a affirmé l'importance d'intégrer la responsabilité dans le développement de l'IA. L’exécutif a reconnu la nécessité de protéger les personnes vulnérables de la société lors de cet avènement technologique le plus sombre.

OpenAI identified itself with the statement conveyed by the head of child safety, Chelsea Carlson. The executive explained the importance of safety in its tools. 

OpenAI s'est identifié à la déclaration véhiculée par la responsable de la sécurité des enfants, Chelsea Carlson. L'exécutif a expliqué l'importance de la sécurité dans ses outils.

Carlson confirmed the guardrails deployed into ChatGPT and DALL-E align to the call by Thorn and All Tech is Human. The executive affirmed support for the Safety by Design principles as its reference to mitigate potential harm to the children. 

Meta hailed its experience in keeping people safe through numerous tools to combat potential harm orchestrated by child predators. Meta pledged to adapt since predators were too adjusting to evade protections. 

Meta a salué son expérience dans la protection des personnes grâce à de nombreux outils permettant de lutter contre les préjudices potentiels orchestrés par les prédateurs d'enfants. Meta s'est engagé à s'adapter puisque les prédateurs s'adaptaient trop pour échapper aux protections.

Google’s head of trust and safety solutions, Susan Jasper, illustrated that the team utilizes hash-matching technology and AI classifiers alongside human reviews to remove CSAE content proactively. The proactive safety approach extends to detecting AI-generated CSAM and reporting such to the NCMEC. 

Susan Jasper, responsable des solutions de confiance et de sécurité chez Google, a illustré que l'équipe utilise une technologie de correspondance de hachage et des classificateurs d'IA ainsi que des examens humains pour supprimer le contenu CSAE de manière proactive. L’approche proactive de sécurité s’étend à la détection des CSAM générés par l’IA et à leur signalement au NCMEC.

The creation of a collective pledge is timely given that several watchdog groups led by the UK’s Internet Watch Foundation warned that AIG-CSAM leaves the internet overwhelmed with exploitative material. 

La création d’un engagement collectif arrive à point nommé étant donné que plusieurs groupes de surveillance dirigés par l’Internet Watch Foundation du Royaume-Uni ont averti qu’AIG-CSAM laisse Internet submergé de matériel d’exploitation.

Editorial credit: AHK Photography / Shutterstock.com

Crédit éditorial : AHK Photography / Shutterstock.com

Tokenhell produces content exposure for over 5,000 crypto companies and you can be one of them too! Contact at info@tokenhell.com if you have any questions. Cryptocurrencies are highly volatile, conduct your own research before making any investment decisions. Some of the posts on this website are guest posts or paid posts that are not written by Tokenhell authors (namely Crypto Cable , Sponsored Articles and Press Release content) and the views expressed in these types of posts do not reflect the views of this website. Tokenhell is not responsible for the content, accuracy, quality, advertising, products or any other content or banners (ad space) posted on the site. Read full terms and conditions / disclaimer.

Tokenhell produit une exposition de contenu pour plus de 5 000 sociétés de cryptographie et vous pouvez également en faire partie ! Contactez à info@tokenhell.com si vous avez des questions. Les crypto-monnaies sont très volatiles, effectuez vos propres recherches avant de prendre une décision d'investissement. Certaines des publications sur ce site Web sont des publications d'invités ou des publications payantes qui ne sont pas écrites par des auteurs de Tokenhell (à savoir Crypto Cable, articles sponsorisés et contenu des communiqués de presse) et les opinions exprimées dans ces types de publications ne reflètent pas les vues de ce site Web. Tokenhell n'est pas responsable du contenu, de l'exactitude, de la qualité, de la publicité, des produits ou de tout autre contenu ou bannières (espace publicitaire) affichés sur le site. Lisez l'intégralité des termes et conditions / clause de non-responsabilité.