La asociación de IA más reciente promete formas más seguras de desarrollar IA.
- La sociedad reunirá una junta de asesores y planificará una estrategia en los próximos meses.
- Se centrará exclusivamente en los modelos de IA de frontera, que se definen como superiores a los existentes.
- Si es una organización que desarrolla tales modelos de IA, puede unirse a la asociación.
Hace una semana, Microsoft anunció Llama 2, su asociación de IA con Meta, en Microsoft Inspire 2023. Llama 2 es un modelo de lenguaje grande de código abierto que puede usar para crear y entrenar su propia IA. También se rumorea que este LLM es la primera pista en lograr AGI, que es, en última instancia, uno de los objetivos centrales de AI.
Bueno, en una semana desde el anuncio, han pasado muchas cosas. También hay rumores de que OpenAI, la compañía detrás de ChatGPT, está lanzando su propio LLM de código abierto, cuyo nombre en código es G3PO. Todavía no hay una fecha de lanzamiento, pero sucederá en 2023 o en 2024.
Y en un giro de los acontecimientos, parece que Microsoft se ha asociado con Anthropic, Google y Open AI en el Frontier Model Forum. La asociación es un organismo de la industria centrado en garantizar el desarrollo seguro y responsable de los modelos de IA de frontera,
según el comunicado de prensa.Hoy, Anthropic, Google, Microsoft y OpenAI anuncian la formación del Frontier Model Forum, un nuevo organismo de la industria centrado en garantizar el desarrollo seguro y responsable de los modelos de IA de frontera. El Frontier Model Forum se basará en la experiencia técnica y operativa de sus empresas miembros para beneficiar a todo el ecosistema de IA, como mediante el avance de evaluaciones técnicas y puntos de referencia, y el desarrollo de una biblioteca pública de soluciones para respaldar las mejores prácticas de la industria y estándares
Foro del modelo Frontier
Básicamente, el Frontier Model Forum quiere construir IA que no representen un riesgo para los humanos. Si recuerdan, uno de los socios, Anthropic, acaba de lanzar Claude 2 IA, y el modelo es famoso por la forma en que interactúa de manera segura con las personas. Entonces, vamos a tener muchas IA similares a la IA de Claude 2, y probablemente incluso mejores. De cualquier manera, es una excelente noticia cuando se trata de esta industria.
¿Qué hará el Frontier Model Forum cuando se trata de IA?
La asociación ha establecido un conjunto de metas y objetivos centrales, y funcionará de acuerdo con ellos. Ellos son:
- Avances en la investigación de seguridad de la IA para promover el desarrollo responsable de modelos de frontera, minimizar los riesgos y permitir evaluaciones independientes y estandarizadas de capacidades y seguridad.
- Identificación de las mejores prácticas para el desarrollo y despliegue responsable de modelos de frontera, ayudando al público a comprender la naturaleza, las capacidades, las limitaciones y el impacto de la tecnología.
- Colaborar con legisladores, académicos, sociedad civil y empresas. para compartir conocimientos sobre la confianza y los riesgos de seguridad.
- Apoyar los esfuerzos para desarrollar aplicaciones que puedan ayudar a enfrentar los mayores desafíos de la sociedad., como la mitigación y adaptación al cambio climático, la detección y prevención tempranas del cáncer y la lucha contra las ciberamenazas.
La asociación también está abierta a la colaboración con organizaciones
Si usted es una organización que desarrolla IA modelo de frontera, puede enviar su solicitud para unirse y colaborar con el Foro de modelo de frontera.
Consejo de experto:
PATROCINADO
Algunos problemas de la PC son difíciles de abordar, especialmente cuando se trata de archivos y repositorios del sistema perdidos o dañados de su Windows.
Asegúrese de utilizar una herramienta dedicada, como Fortalecer, que escaneará y reemplazará sus archivos rotos con sus versiones nuevas de su repositorio.
Según el Foro, un modelo de frontera AI es un modelo de aprendizaje automático a gran escala que supera las capacidades actualmente presentes en los modelos existentes más avanzados. Y también debería ser capaz de realizar una amplia variedad de tareas.
Para unirse a la asociación, usted, como organización, debe cumplir con los siguientes criterios:
- Ya desarrolla e implementa modelos fronterizos (como los define el foro).
- La organización puede demostrar un fuerte compromiso con la seguridad modelo de frontera, incluso a través de enfoques técnicos e institucionales.
- Usted, como organización, está dispuesto a contribuir al avance de los esfuerzos del Foro, incluso participando en iniciativas conjuntas y apoyando el desarrollo y el funcionamiento de la iniciativa.
Esto es lo que hará el Foro cuando se trate de IA
El Frontier Model Forum quiere apoyar un proceso de desarrollo de IA seguro y responsable, y se centrará en 3 áreas clave durante 2023:
- Identificación de las mejores prácticas: Promover el intercambio de conocimientos y las mejores prácticas con un enfoque en los estándares de seguridad y las prácticas de seguridad para mitigar una amplia gama de riesgos potenciales.
- Avances en la investigación de seguridad de la IA: Apoye el ecosistema de seguridad de la IA identificando las preguntas de investigación abiertas más importantes sobre la seguridad de la IA. El Foro coordinará la investigación para avanzar en estos esfuerzos en áreas como la solidez de los adversarios, interpretabilidad mecanicista, supervisión escalable, acceso de investigación independiente, comportamientos emergentes y anomalía detección. Inicialmente, habrá un fuerte enfoque en desarrollar y compartir una biblioteca pública de evaluaciones técnicas y puntos de referencia para modelos de IA de frontera.
- Facilitar el intercambio de información entre empresas y gobiernos: Establezca mecanismos seguros y confiables para compartir información entre empresas, gobiernos y partes interesadas relevantes con respecto a la seguridad y los riesgos de la IA. El Foro seguirá las mejores prácticas en divulgación responsable de áreas como la ciberseguridad.
En el transcurso de 2023, el foro Frontier Model trabajará en armar una junta, luego construirá una estrategia y establecerá prioridades. Pero la organización ya está buscando colaborar con tantas instituciones como sea posible, privadas o públicas. Esto también incluye sociedades civiles y gobiernos, así como otras instituciones que estén interesadas en la IA.
¿Qué opinas de esta nueva alianza? ¿Estás interesado en unirte? ¿O tiene curiosidad acerca de los modelos de IA de frontera? Háganos saber en la sección de comentarios.
