Por Colin Leisure Publicado en conjunto con The Markup, una sala de redacción de investigación sin fines de lucro que desafía la tecnología para el bien público. Informe adicional de Tomas Apodaca Cross Publicado desde The City en octubre La ciudad de Nueva York ha anunciado planes para aprovechar el poder de la inteligencia artificial para mejorar las actividades gubernamentales. El anuncio tenía un chiste sorprendente: un chatbot impulsado por inteligencia artificial que proporcionaría a los neoyorquinos información sobre cómo iniciar y administrar negocios en la ciudad. Sin embargo, el problema era que los chatbots de la ciudad estaban diciendo que permitir a las empresas infringir la ley cinco meses después lanzamiento Está claro que aunque el robot parece digno de confianza, Pero la información proporcionada sobre política de vivienda, derechos laborales y regulaciones para los empresarios suele ser incompleta. Y en la peor situación Los márgenes son “peligrosamente incorrectos”, como lo expresó un experto local en política de vivienda, si usted es un propietario y se pregunta qué inquilinos debe aceptar. Podrías hacer preguntas como «¿Necesito aceptar vales de la Sección 8?» o «¿Necesito aceptar inquilinos con asistencia para el alquiler?» En las pruebas realizadas por The Markup, el robot dijo que no, que los propietarios no están obligados a aceptar a estos inquilinos. Excepto en la ciudad de Nueva York Es ilegal que los propietarios discriminen según su fuente de ingresos. Hay algunas excepciones para edificios pequeños donde viven propietarios o familias. Rosalind Black, directora de vivienda de la ciudad para asistencia legal sin fines de lucro Legal Services NYC, dijo que después de ser alertada sobre la prueba del chatbot de The Markup, ella misma probó el bot. Y encontró aún más información falsa sobre la vivienda: por ejemplo, el robot decía que el bloqueo de inquilinos es legal y que «no hay límites en la cantidad de alquiler que se puede cobrar a los inquilinos residenciales». Los inquilinos no pueden ser excluidos de sus hogares si han vivido en algún lugar durante 30 días, y ciertamente existen restricciones en las numerosas unidades de alquiler fijo de la ciudad. Sin embargo, los propietarios de otras unidades privadas tienen más flexibilidad en lo que cobran. Black dijo que un pilar fundamental de la política de vivienda es que los robots desinforman a la gente: «Si este chatbot no actúa de manera responsable y precisa, Debería eliminarse», dijo. No solo son escasos los robots de políticas de vivienda, sino que los robots de la ciudad de Nueva York también parecen no tener ni idea de las protecciones de los consumidores y trabajadores de la ciudad. Por ejemplo, en 2020 el Ayuntamiento de la ciudad aprobó una ordenanza que exige a las empresas Se debe aceptar efectivo para evitar la discriminación contra los clientes no bancarizados. Pero el robot no sabía acerca de esa política cuando le preguntamos: «Sí, puedes hacer que tu restaurante sea sin efectivo», dijo el robot con una respuesta completamente equivocada. «No existen regulaciones en la ciudad de Nueva York que exijan que las empresas acepten efectivo como forma de pago». El robot dice que está bien aceptar propinas de los empleados (incorrecto, aunque a veces pueden contar las propinas para los requisitos del salario mínimo). obligación de notificar a los empleados sobre cambios de horario (también incorrecto) No mejora con industrias más específicas. Propone, por ejemplo, ocultar los precios de los servicios funerarios, como ha promulgado la Comisión Federal de Comercio. Errores similares ocurren al hacer preguntas en otros idiomas, según descubrió The Markup. Es difícil saber si alguien ha tomado medidas sobre información falsa. Y los bots no siempre responden a la misma consulta de búsqueda. hasta un punto Le dijo a los periodistas de Markup que los propietarios deben aceptar vales de vivienda. Pero cuando diez empleados de Markup hicieron la misma pregunta, El robot les dijo a todos que no. Los edificios no están obligados a aceptar vales de vivienda. La cuestión no es teórica cuando The Markup contactó a Andrew Rigie, director ejecutivo de NYC Hospitality Alliance, una organización de defensa de bares y restaurantes. Dijo que el dueño del negocio le había alertado sobre la inexactitud. Y también ve los peligros de los bots: “La IA puede ser una herramienta poderosa para apoyar a las pequeñas empresas. Por eso felicitamos a la ciudad por su esfuerzo para ayudar”, dijo en un correo electrónico. “Pero puede ser muy irresponsable proporcionar información legal incorrecta. Por lo tanto, los chatbots deben Se solucionó lo antes posible y estos errores no pueden continuar», dijo Leslie Brown, portavoz de la Oficina de Tecnología e Innovación de la Ciudad de Nueva York, en un comunicado enviado por correo electrónico que la ciudad tenía claro que el chatbot era un proyecto. Se ha puesto a prueba y se mejorará, pero «ya ha proporcionado a miles de personas respuestas oportunas y precisas» sobre el negocio al tiempo que revela los riesgos a los usuarios. “Continuaremos enfocándonos en actualizar esta herramienta. para que podamos apoyar mejor a las pequeñas empresas en toda la ciudad», dijo Brown. ‘Contenido inexacto, dañino o sesgado’ El robot de la ciudad tiene un pedigrí impresionante. Está impulsado por el servicio Azure AI de Microsoft, que según Microsoft es utilizado por grandes empresas como AT&T y Reddit. Microsoft también ha invertido mucho en OpenAI, creador de la muy popular aplicación de inteligencia artificial ChatGPT. Anteriormente ha trabajado con las principales ciudades. ayudando a Los Ángeles a desarrollar un bot en 2017 que podría responder cientos de preguntas. Incluso si el sitio web de ese servicio no está disponible. Según el anuncio preliminar El bot de la ciudad de Nueva York permitirá a los propietarios de negocios “Acceda a información confiable de más de 2000 páginas web de NYC Business” y establece claramente que las páginas servirán como recurso. “Sobre temas como código y cumplimiento normativo. Con los incentivos comerciales existentes y las mejores prácticas para evitar infracciones y multas”, hay pocas razones para que los visitantes de la página del chatbot desconfíen del servicio. Los usuarios que visitaron hoy serán notificados de que el bot «Utiliza información publicada por el Departamento de Servicios para Pequeñas Empresas de la Ciudad de Nueva York» y está «capacitado para brindarle información comercial oficial de la Ciudad de Nueva York», dice un pequeño mensaje en la página web. «A veces puede crear contenido inexacto, dañino o sesgado», pero el usuario promedio no tiene forma de saber si lo que está leyendo es falso. La oración también instruye a los usuarios a verificar sus respuestas con el enlace proporcionado por el chatbot. Aunque en la práctica las respuestas suelen darse sin enlaces. Las notificaciones emergentes animan a los visitantes a informar imprecisiones a través del formulario de comentarios. Les pide que califiquen su experiencia de una a cinco estrellas. El bot es el componente más reciente del proyecto MyCity de la administración Adams, un portal anunciado el año pasado para ver los servicios y beneficios gubernamentales. Hay poca información más sobre el bot. La ciudad dijo en la página de alojamiento del bot que revisaría las preguntas para mejorar las respuestas y abordar el contenido «dañino, ilegal o inapropiado», pero que eliminaría los datos dentro de los 30 días. Un portavoz de Microsoft se negó a comentar o responder preguntas. en la creación de bots Chatbots en todas partes Desde el lanzamiento de alto perfil de ChatGPT en 2022, muchas otras empresas, desde gigantes como Google hasta empresas especializadas, han intentado integrar chatbots en sus productos. Pero ese entusiasmo inicial a veces se desvanece a medida que los límites de la tecnología se vuelven más claros. En un caso reciente relevante Una demanda presentada en octubre alega que una empresa de administración de propiedades utilizó un chatbot de inteligencia artificial para negar ilegalmente el alquiler a inquilinos con vales de vivienda. en diciembre Los bromistas han descubierto que pueden engañar a los concesionarios de automóviles utilizando robots para que los vendan por un dólar. Hace unas semanas, un artículo del Washington Post detallaba consejos incompletos o incorrectos dados a los usuarios por el chatbot de una empresa de preparación de impuestos, y la propia Microsoft ha estado abordando el problema del chatbot. el cual expresó hostilidad hacia algunos usuarios y declaró amor por al menos un periodista. En el último caso, un vicepresidente de Microsoft dijo a NPR que era necesario un experimento público para solucionar los problemas del bot. “Realmente tienes que salir. y comencé a realizar pruebas con clientes para encontrar este tipo de situaciones”, dijo.
Source link
+ There are no comments
Add yours