La ciencia conlleva riesgos. Pregunta importante: ¿quién toma las decisiones?

Eva, esto… con ciencia. (especialmente medicamentos) que ha sido dañado por intereses comerciales Pero los altos funcionarios y portavoces insistieron en que las masas se sometieran a Los debates y decisiones «científicos» sobre seguridad se están trasladando cada vez más al ámbito político. Lo cual no suele ser malo. La mayoría prefiere evitar los riesgos asociados con grandes juicios públicos. Esto está en línea con el mandato del principio de precaución, sin embargo muchas opiniones están influenciadas por campañas de relaciones públicas finamente afinadas… nuevamente en nombre de intereses monetizados. Entonces, incluso cuando el público en general está cada vez más informado sobre nuevas tecnologías potencialmente peligrosas… ¿a quién le importan los moderadores si los moderadores son tan inteligentes a la hora de seleccionar y producir información relevante? Tenga en cuenta que la publicación incluye tres infografías que son útiles pero no esenciales para la publicación. A veces veo en el código cómo escalar. Pero estos no proporcionan pistas claras. Si algún lector útil puede ofrecer consejos. Por favor envíeme un correo electrónico a yves-at-nakedcapitalism-punto-com con «Resize» en el título o ver en la misma ubicación Por Michael Schulson, editor colaborador de Undark, cuyo trabajo ha sido publicado por Aeon, NPR, Pacific Standard, Scientific American, Slate. y Wired, entre otras publicaciones, y Peter Andrey Smith, colaborador principal de Undark, cuyas historias han aparecido en Science, STAT, The New York Times y WNYC Radiolab. Publicado originalmente en Undark. El proyecto es muy secreto. La mayoría de los miembros del Congreso ni siquiera sabían que existía en 1942, cuando un equipo de físicos de élite se propuso producir una bomba atómica. Los líderes militares tomaron medidas elaboradas para ocultar sus actividades al público y a los comerciantes estadounidenses. Por supuesto, había buenas razones para mantener en secreto los programas de desarrollo de armas en tiempos de guerra (infructuosos: los espías soviéticos se enteraron de la bomba frente a la mayoría de los miembros del Congreso), pero los resultados fueron sorprendentes: en la democracia emblemática de Estados Unidos, la palabra El proyecto de redefinir la sociedad duró unos tres años. sin el conocimiento o consentimiento del público o Sus representantes electos, después de la guerra, un funcionario describió el Proyecto Manhattan como “un “un estado separado” con “una autonomía peculiar que puede provocar el fin pacífico o violento de cualquier otra soberanía”. Pero en muchos casos El público todavía tiene pocas posibilidades de dar su consentimiento al progreso científico. ¿Qué experimentos son seguros? Y ningún experimento es seguro. ¿Cuál es el nivel de riesgo aceptable? ¿Y hay alguna ciencia que no debería hacerse? La decisión se considera una de las más trascendentales políticamente de nuestro tiempo. Pero a menudo son creados por un pequeño grupo de científicos, administradores o burócratas. En algunos casos, los críticos dicen que es una decisión sencilla. al realizar una investigación, sin importar cuán bajo sea el riesgo del experimento. Desarrollará el alcance hacia un área más riesgosa. en el texto y los gráficos que siguen. Buscamos arrojar luz sobre algunas de las personas clave encargadas de tomar estas importantes decisiones en tres campos: investigación de patógenos; inteligencia artificial y paisajismo solar Identificar a quienes toman las decisiones es necesariamente un ejercicio subjetivo. Seguramente muchos nombres desaparecerán y otros cambiarán con la administración de Donald. Con la llegada de Trump, y en todos los campos, las decisiones rara vez las toma una sola persona o incluso un pequeño grupo de personas. Más bien, es un proceso distribuido que involucra múltiples niveles de aportes de asesores, comités, grupos de trabajo y personas designadas. y administradores formales e informales. El alcance de la gobernanza también varía según las disciplinas, tanto a nivel nacional como global. La investigación sobre patógenos está más regulada que los campos emergentes de la IA y la geoingeniería. Para la investigación de IA y patógenos, nos centramos únicamente en Estados Unidos. Esto refleja la necesidad de limitar el alcance de nuestros informes. y el grado en que la ciencia estadounidense lidera el mundo en ambos campos hoy. Aunque se enfrenta a una intensa competencia en IA por parte de China, con estas advertencias en mente. Por ello ofrecemos una muestra ilustrativa pero no exhaustiva de personas que forman parte de la cadena de decisión en cada categoría a finales de 2024. Parecen ser un grupo profundamente subrepresentado: blancos, hombres y de clases profesionales. En algunos casos, ocupan los niveles más altos de las empresas o del gobierno, en otros, son miembros de estructuras corporativas subrepresentadas. y en otras partes Aún se desconocen las identidades de los principales actores. investigación de gérmenes La mayoría de las investigaciones sobre bacterias y virus dañinos plantean pocos riesgos para el público. Pero algunos experimentos A esto se le suele llamar trabajo por encargo. El trabajo de ganancia de función implica diseñar gérmenes de una manera que pueda hacerlos mejores para infectar y dañar a los humanos. Los científicos que realizan este trabajo dicen que su objetivo es aprender cómo prevenir y combatir futuras pandemias. Pero para parte de ese experimento Una fuga accidental de un laboratorio podría tener implicaciones globales. Hoy en día, muchos expertos creen que el COVID-19. Transmitir de animales a personas Y la mayor parte de la evidencia reunida hasta la fecha apunta firmemente en esa dirección. Sin embargo, los científicos y analistas del gobierno estadounidense. Algunas personas creen que la pandemia de COVID-19 Podría suceder en un laboratorio chino que reciba financiación estadounidense. No importa cuál sea la realidad La posibilidad de una fuga de laboratorio ha aumentado la conciencia pública sobre la investigación de patógenos en riesgo. Los Institutos Nacionales de Salud albergan un comité secreto que decide sobre posibles investigaciones derivadas del trabajo. El otro es parte de la Administración de Preparación y Respuesta Estratégica dentro del HHS. Los portavoces de ambas oficinas compartieron detalles sobre la membresía del comité. o incluso especificar qué altos funcionarios coordinan y supervisan las actividades del comité. «Creo que parte de esto podría deberse a buenas razones, como mantener la integridad científica y proteger la ciencia de la interferencia política», dijo un ex funcionario federal que trabajó fuera del HHS, en respuesta a una pregunta sobre por qué los detalles sobre la supervisión (Los funcionarios habló bajo condición de anonimato porque las opiniones expresadas pueden no reflejar las de sus empleadores actuales). “Creo que parte de esto es atribuible al HHS. No es posible entender cómo navegar el creciente escrutinio público de este tipo de trabajo. ”, agregó el funcionario. Describió la falta de transparencia en el panel de revisión especial del HHS como «una locura». Si la investigación sobre gérmenes está financiada y supervisada en gran medida por agencias gubernamentales, la IA es todo lo contrario: una importante transformación social liderada por el sector privado en los últimos años. Las consecuencias de la tecnología ya son de gran alcance: los procesos automatizados han negado a las personas protección de vivienda y atención médica. lo que a veces causa errores Los algoritmos de reconocimiento facial han etiquetado incorrectamente a mujeres y personas de color como ladrones. Los sistemas de inteligencia artificial también se han utilizado para crear imágenes sexuales no consensuadas. Otros riesgos difícil de adivinar Hace muchos años Algunos expertos han advertido que una IA demasiado inteligente podría plantear riesgos profundos para la sociedad, como dañar a los humanos. guerra excesiva o incluso conducir a la extinción humana. el año pasado Un grupo de unos 300 expertos en IA emitió una advertencia de una sola frase: «Reducir el riesgo de extinción debido a la IA debería ser una prioridad global junto con otros riesgos sociales como las pandemias y la guerra nuclear», dijeron otros expertos, especialmente en el mundo académico. Dado que este tipo de advertencia es principalmente un truco de marketing. Su propósito es desviar las preocupaciones de las consecuencias inmediatas de la tecnología. «Las mismas personas que se benefician de la IA son las mismas personas que intentan vendernos amenazas existenciales», dijo Ryan Calo, cofundador del Centro de Datos Públicos de la Universidad de Washington. «Es más barato protegerse contra las amenazas existentes que especulan sobre el futuro», dijo, «que resolver los problemas que la IA crea hoy». Pero ninguna agencia federal puede compararse con la Administración de Alimentos y Medicamentos de EE. UU. en la administración de aprobaciones previas a la comercialización de sistemas de IA, exigiendo a los desarrolladores que demuestren la seguridad y eficacia de sus productos antes de su uso. Los reguladores federales han tomado medidas limitadas para supervisar usos específicos de la tecnología, como cuando la Comisión Federal de Comercio prohibió a Rite Aid utilizar software de reconocimiento facial durante cinco años. A nivel estatal, el gobernador de California vetó recientemente un proyecto de ley que podría impedir el desarrollo de la tecnología. . ingeniería de energía solar En teoría, La inyección de partículas a la atmósfera puede reflejar la luz solar. enfriar el mundo y ayudar a revertir los peores efectos del cambio climático. Por lo tanto, las nubes sobre el océano se pueden cambiar para hacerlas más reflectantes. En la práctica, los críticos dicen que la geoingeniería solar podría causar daños ya sea directamente (por ejemplo, al cambiar los patrones de lluvia) o indirectamente (al terminar con el desperdicio de recursos que se necesitan para resolver problemas climáticos básicos). (como la reducción de las emisiones de gases de efecto invernadero), y una vez que las intervenciones están en marcha, puede ser difícil o peligroso detenerlas. La ciencia de la geoingeniería actualmente consiste principalmente en modelos informáticos y una serie de pruebas a pequeña escala, pero en 2022, debido a preocupaciones sobre qué áreas. Este campo es tendencia. Por ello, cientos de científicos y activistas han pedido una suspensión temporal de la mayoría de las investigaciones. Algunos expertos sugieren que Incluso una prueba pequeña e inofensiva allana el camino para futuras intervenciones más riesgosas. dentro de los estados unidos Ninguna agencia gubernamental controla claramente la decisión de probar o utilizar la tecnología. Si bien algunos experimentos al aire libre pueden despertar el interés de los reguladores, por ejemplo, ¿afectan a especies en peligro de extinción? Los expertos dicen que aún no está claro a nivel mundial cómo los tratados o agencias internacionales existentes pueden limitar la geoingeniería solar. Eso podría llevar a que un solo país o empresa altere unilateralmente el clima global. Shuchi Talati, fundador de la Alianza para una Deliberación Justa sobre Geoingeniería Solar, dijo que es un «pequeño grupo de personas» el que toma decisiones sobre geoingeniería solar. «Es un espacio realmente genial».