Le tout nouveau partenariat sur l'IA promet des moyens plus sûrs de développer l'IA.
- Le partenariat réunira un comité consultatif et planifiera une stratégie dans les mois suivants.
- Il se concentrera exclusivement sur les modèles d'IA de pointe, qui sont définis comme étant supérieurs aux modèles existants.
- Si vous êtes une organisation qui développe de tels modèles d'IA, vous pouvez rejoindre le partenariat.
Il y a une semaine, Microsoft a annoncé Llama 2, son partenariat IA avec Meta, à Microsoft Inspire 2023. Llama 2 est un grand modèle de langage open source, que vous pouvez utiliser pour créer et entraîner votre propre IA. Ce LLM est également répandu pour être le premier indice dans la réalisation de l'AGI, qui est, en fin de compte, l'un des objectifs centraux de l'IA.
Eh bien, une semaine après l'annonce, il s'est passé beaucoup de choses. Il y a aussi des rumeurs selon lesquelles OpenAI, la société derrière ChatGPT, publie son propre LLM open source, nommé G3PO. Il n'y a pas encore de date de sortie pour cela, mais cela se produira en 2023 ou en 2024.
Et dans une tournure des événements, il semble que Microsoft s'est associé à Anthropic, Google et Open AI au Frontier Model Forum. Le partenariat est un organisme industriel axé sur le développement sûr et responsable des modèles d'IA de pointe, selon le communiqué de presse.
Aujourd'hui, Anthropic, Google, Microsoft et OpenAI annoncent la création du Frontier Model Forum, un nouvel organisme industriel axé sur le développement sûr et responsable des modèles d'IA de pointe. Le Frontier Model Forum s'appuiera sur l'expertise technique et opérationnelle de ses entreprises membres au profit de l'ensemble de l'écosystème de l'IA, comme en faisant progresser les évaluations techniques et les références, et en développant une bibliothèque publique de solutions pour soutenir les meilleures pratiques de l'industrie et normes.
Forum des modèles frontières
Fondamentalement, le Frontier Model Forum veut construire des IA qui ne présentent pas de risque pour les humains. Si vous vous souvenez, l'un des partenaires, Anthropic, vient de sortir Claude 2 AI, et le modèle est réputé pour la façon dont il interagit en toute sécurité avec les gens. Nous allons donc avoir beaucoup d'IA similaires à l'IA de Claude 2, et probablement même meilleures. Quoi qu'il en soit, c'est une excellente nouvelle pour ce secteur.
Que fera le Frontier Model Forum en matière d'IA
Le partenariat a établi un ensemble de buts et d'objectifs fondamentaux, et il fonctionnera en fonction de ceux-ci. Ils sont:
- Faire progresser la recherche sur la sécurité de l'IA promouvoir le développement responsable de modèles frontières, minimiser les risques et permettre des évaluations indépendantes et normalisées des capacités et de la sécurité.
- Identifier les bonnes pratiques pour le développement et le déploiement responsables de modèles de pointe, aidant le public à comprendre la nature, les capacités, les limites et l'impact de la technologie.
- Collaborer avec les décideurs politiques, les universitaires, la société civile et les entreprises partager les connaissances sur les risques liés à la confiance et à la sécurité.
- Soutenir les efforts pour développer des applications qui peuvent aider à répondre aux plus grands défis de la société, telles que l'atténuation et l'adaptation au changement climatique, la détection et la prévention précoces du cancer et la lutte contre les cybermenaces.
Le partenariat est également ouvert à la collaboration avec des organisations
Si vous êtes une organisation qui développe l'IA Frontier Model, vous pouvez soumettre votre candidature pour rejoindre et collaborer avec le Frontier Model Forum.
Conseil d'expert :
SPONSORISÉ
Certains problèmes de PC sont difficiles à résoudre, en particulier lorsqu'il s'agit de fichiers système et de référentiels manquants ou corrompus de votre Windows.
Veillez à utiliser un outil dédié, tel que Fortifier, qui analysera et remplacera vos fichiers endommagés par leurs nouvelles versions à partir de son référentiel.
Selon le Forum, un modèle frontière d'IA est un modèle d'apprentissage automatique à grande échelle qui dépasse les capacités actuellement présentes dans les modèles existants les plus avancés. Et il devrait également être capable d'effectuer une grande variété de tâches.
Pour rejoindre le partenariat, vous, en tant qu'organisation, devez répondre aux critères suivants:
- Vous développez et déployez déjà des modèles frontières (tels que définis par le Forum).
- L'organisation est en mesure de démontrer un engagement fort en faveur de la sécurité des modèles frontières, notamment par le biais d'approches techniques et institutionnelles.
- En tant qu'organisation, vous êtes prêt à contribuer à faire avancer les efforts du Forum, notamment en participant à des initiatives conjointes et en soutenant le développement et le fonctionnement de l'initiative.
Voici ce que le Forum fera en matière d'IA
Le Frontier Model Forum souhaite soutenir un processus de développement d'IA sûr et responsable, et il se concentrera sur 3 domaines clés en 2023 :
- Identification des bonnes pratiques : Promouvoir le partage des connaissances et les meilleures pratiques en mettant l'accent sur les normes de sécurité et les pratiques de sécurité pour atténuer un large éventail de risques potentiels.
- Faire progresser la recherche sur la sécurité de l'IA : Soutenez l'écosystème de la sécurité de l'IA en identifiant les questions de recherche ouvertes les plus importantes sur la sécurité de l'IA. Le Forum coordonnera la recherche pour faire progresser ces efforts dans des domaines tels que la robustesse face à l'adversaire, interprétabilité mécaniste, surveillance évolutive, accès indépendant à la recherche, comportements émergents et anomalie détection. Dans un premier temps, l'accent sera mis sur le développement et le partage d'une bibliothèque publique d'évaluations techniques et de références pour les modèles d'IA de pointe.
- Faciliter le partage d'informations entre les entreprises et les gouvernements : Établir des mécanismes fiables et sécurisés pour partager des informations entre les entreprises, les gouvernements et les parties prenantes concernées concernant la sécurité et les risques liés à l'IA. Le Forum suivra les meilleures pratiques en matière de divulgation responsable dans des domaines tels que la cybersécurité.
Au cours de l'année 2023, le forum Frontier Model travaillera à l'assemblage d'un conseil d'administration, puis élaborera une stratégie et établira des priorités. Mais l'organisation cherche déjà à collaborer avec un maximum d'institutions, privées ou publiques. Cela inclut également les sociétés civiles et les gouvernements, ainsi que d'autres institutions qui s'intéressent à l'IA.
Que pensez-vous de ce nouveau partenariat? Êtes-vous intéressé à nous rejoindre? Ou êtes-vous curieux de connaître les modèles d'IA de pointe? Faites-nous savoir dans la section commentaires ci-dessous.
