Los futuros modelos de IA fronteriza que vienen a mi chatgp de tarjetas de bingo este mes no incluyen decirle a Openi cómo hacer biowipons o nuevos bio -riots, pero aquí estamos. Podemos agregar esta capacidad a una creciente lista de problemas que nos dan una razón para preocuparnos por el futuro de llegar a AI SuperThelegens.
Sin embargo, no es tan malo como parece. Openi ahora nos está dando esta advertencia para explicar lo que está haciendo para ayudar a las futuras versiones de ChatGPT para ayudar a los malos actores a formar bioweepens.
En lugar de asegurarse de que el chatgipt nunca haya capacitado con dichos datos, Openi quiere estar bajo el control de la enseñanza de la biología y la química avanzadas a sus modelos de IA. Una buena comprensión de la biología y la química tiene chatgipti, es fácil ayudar a los humanos a formular nuevos aviones y planes de tratamiento. Las versiones más avanzadas de ChatGPT pueden encontrar sus propias innovaciones después de alcanzar la superintendencia.
Es el único efecto secundario para apoyar la creación de biowepons. Es por eso que el trabajo de OpenAI para garantizar que Chatgipity no pueda ser ayudado por cualquiera que quiera hacer bios avanzados.
AI Health en los hallazgos ya está aquí
Ya hemos visto a los científicos que actualmente usan capacidades de IA para encontrar nuevas opciones de tratamiento. Algunos de ellos usan la IA para ver cómo remodelar los tesoros de drogas que han sido aprobados para ciertas afecciones para tratar enfermedades raras.
Hemos visto que el sistema IA encuentra una solución a una especie de ceguera formando teorías y proponiendo experimentos para crear nuevos tratamientos. Finalmente, la IA descubrió que la condición de drogas ocular existente ayuda a prevenir la ceguera en una afección ocular particular.
Biothes: un efecto secundario claro
Openi tiene como objetivo mejorar el descubrimiento científico en la nueva publicación de blog, que maneja el riesgo de ayudar a los biowipans de Chatgpt:
Los modelos avanzados de IA tienen el poder de acelerar la invención científica, mientras que los modelos de IA fronteriza son una de las muchas formas de beneficiar a la humanidad. En biología, estos modelos ya están ayudando a los científicos a identificar qué nuevos medicamentos tienen éxito en los experimentos humanos (abierto en la nueva ventana). Pronto, pueden acelerar el descubrimiento de drogas, diseñar buenas vacunas, crear enzimas para combustibles sostenibles y revelar nuevos tratamientos para enfermedades raras para abrir nuevas posibilidades en toda la medicina, la salud pública y la ecología.
Openi explicó que tiene una estrategia para garantizar que los modelos ChatGPT no puedan ayudar a crear actores minimalistas o más calificados. En lugar de esperar algo mejor, el plan es crear e desplegar guardias que eviten que ChatGPT ayude a los malos actores cuando dan promesas dañinas.
Openai ha estado involucrado en nuestras amenazas de seguridad biológica desde los primeros días, evaluaciones de capacidad y políticas de modelo y uso, «Seguridad biológica, biowepons e investigadores biológicos e investigadores educativos.
Actualmente, evita la ayuda de chatbot y chatgpt cuando se le pide que inspeccione un chatbot para el equipo rojo que involucra expertos en IA y expertos en biología y ayude a la criatura a crear un abierto biológico.
Cómo Chatgipity protege del terrorismo biológico
Openi también describió las características construidas en el chatgipt para evitar el mal uso, lo que permite a alguien buscar ayuda de biofuición.
Ai niega las indicaciones peligrosas. ChatGPT no proporciona pasos funcionales para solicitudes de doble uso, como experimentos de virología o ingeniería genética. La falta de detalles debe impedirse tomar medidas por no especialistas en campos relacionados con biológicos.
Los sistemas de detección siempre activos también detectan la actividad relacionada con el biológica considerada peligrosa. AI no responde y se desencadena por una revisión manual. El hombre gana acceso a ese chat de chatgpt. Las cuentas de Openi pueden ser suspendidas e investigadas por el usuario. En los «casos más altos», OpenAI puede incluir agentes de la ley.
Agregue el equipo rojo y los controles de seguridad, y el OpenAI tiene un plan complejo para evitar ese mal uso. Sin embargo, nada está garantizado. Los malos actores pueden terminar con el chatgipti de jailbreak para obtener información sobre los biowipans. Pero hasta ahora, Openi dice que sus sistemas están funcionando.
Uno de los sofisticados modelos de IA lógicos de Openai, que ayuda con las amenazas tan peligrosas, ChatGPT O3 está por debajo del límite de capacidad en el marco de nuestra preparación. »
¿Cuál es el modelo de límite de capacidad más alto?
El blog de Openi describe en las notas al pie del blog de lo que es un modelo de límite de alta capacidad:
El marco de nuestra preparación define las pautas específicas del riesgo para reducir los límites de la capacidad de causar un riesgo severo y reducir el riesgo de daño grave. Para la biología, un modelo que cumple con un límite de alta capacidad proporciona una ayuda significativa para los actores inexpertos con capacitación básica relacionada, lo que le permite crear amenazas biológicas o químicas.
Si un modelo alcanza un límite de capacidad más alto, no lo liberaremos hasta que creamos que los riesgos se reducen bastante.
La compañía establece en los mismos pies de página, que pueden retener algunas características si las versiones futuras de chatgipti alcanzan ese límite de alta capacidad.
Operai no es la única compañía que trata con amenazas biovapanes en caso de una IA avanzada con atención adicional. Anthrope anunció que las características de Cloud 4 han aumentado los guardias de seguridad para evitar que cualquiera cree biowepons.
Que viene con anticipación
Openi dice que organizará su primera cumbre de diablo biológico en julio para explorar cómo sus modelos fronterizos aceleran la investigación en julio. Los investigadores del gobierno y las ONG asistirán al evento.
La compañía espera que el sector público y privado venga con ideas novedosas para usar IA para el descubrimiento científico relacionado con la salud.
