Ética AI: una nueva habilidad para diseñadores de UX

Death_to_Stock_A_New_Way_Of_Work_20.jpg

AI tiene nuestra atención. Las posibilidades obstruyen nuestras noticias, crean conversaciones interesantes y dan inspiración a los líderes tecnológicos para explorar soluciones. ¿Cómo se verá el desarrollo de esta tecnología? ¿Qué significará esto para nosotros como humanos? ¿Podría esto afectar a toda la sociedad? Con todas las preguntas formuladas, solo una cosa es absolutamente clara. Estamos a punto de entrar en una de las mayores transformaciones que nuestra sociedad ha presenciado en el último siglo, si no en el milenio.

Hace un par de semanas, Google celebró su conferencia anual de desarrolladores, Google I / O. Como de costumbre, introdujeron una gama de nuevos servicios y características y cada uno compartió un hilo común: AI. Google usará AI para continuar alimentando Google Photos, su nuevo servicio Google News e incluso maneras de hacer que use menos su teléfono (JOMO = Joy of Missing Out). Sin embargo, la gran historia fue su demo de Asistente de Google llamando a una peluquera en su nombre para reservar una cita.

Tener una escucha:

La voz suena muy natural: si hubiera estado al otro lado de esa llamada, nunca hubiera adivinado que estaba hablando con una máquina. Esto no solo se debe a su voz clara y patrones de habla natural, sino también porque Google agregó peculiaridades del habla humana como "hmm y um".

Bridget Carey de CNN fue una de las primeras en llamar a Google sobre las implicaciones éticas de esto:

Estoy genuinamente molesto y molesto por cuán moralmente equivocado es que la voz del Asistente de Google actúe como un humano y engañe a otros humanos en la otra línea de una llamada telefónica, utilizando el upspeak y otras peculiaridades del lenguaje. "Hola um, ¿tienes algo disponible el 3 de mayo?"

Si Google creó una forma para que una máquina suene tanto como un ser humano que ahora no podemos decir qué es real y qué es falso, necesitamos hablar sobre ética y cuándo es correcto que un ser humano sepa cuándo son. hablando a un robot.
En esta era de desinformación, donde las personas no saben qué son noticias falsas ... ¿cómo sabes qué creer si ni siquiera puedes confiar en tus oídos con el asistente de Google que ahora llama a las empresas y se hace pasar por humano? Eso significa que cualquier diálogo puede ser falsificado por una máquina y no se puede saber.
BRIDGET CAREY

El Asistente de Google hace llamadas pretendiendo ser humano no solo sin revelar que es un bot, sino que agrega "ummm" y "aaah" para engañar al humano del otro lado con la habitación vitoreando ... horripilante. Silicon Valley está éticamente perdido, sin timón y no ha aprendido nada.
ZEYNEP TUFEKCI

Creo que estamos llegando al punto en el que las diferencias entre compañías como Apple y Google van a ser mucho más obvias. Durante años, el consenso ha sido que Apple se ha quedado atrás de Google en IA / asistentes personales y estamos empezando a entender por qué ha sido así. Siempre he creído que Apple es una empresa orientada a los productos y centrada en las necesidades humanas, mientras que Google es una empresa impulsada por la tecnología centrada en aprovechar los datos. Es una forma fundamentalmente diferente de valorar al usuario: el humano.

No estoy seguro de que la gente promedio tenga tan poco tiempo en su agenda como para dedicarle un minuto a pedir una cita. En cambio, Google podría apuntar este producto a personas que simplemente no quieren hablar con otra persona, algo que Rene Ritchie menciona.

No puedo imaginar que alguien a quien conozco (como mi peluquero) reciba una llamada entrante de mí y termine hablando con mi asistente de voz digital. Es un gran ejemplo de cómo, desde el punto de vista de la tecnología, puede parecer lo mejor. Sin embargo, desde una perspectiva humana, es francamente insultante para la persona del otro lado que se da cuenta de que ni siquiera puede dedicarle los 30 segundos necesarios a llamarlos para concertar una cita. Esta función tendría mucho más sentido si la pequeña empresa a la que llamaba tuviera su propia capacidad de respuesta automatizada. Sin embargo, en ese punto, uno tiene que preguntarse por qué una llamada telefónica sería incluso necesaria en primer lugar.
NEIL CYBART

Si le pregunta a la Universidad de Oxford o Ball State University, uno de los trabajos más probables que se automatizará en el futuro cercano son los agentes de telemercadeo. El telemercadeo ya es un problema hoy en día y todavía tenemos humanos haciendo las llamadas, imagínense si extraen el costo de los humanos de las compañías de telemercadeo. Su teléfono puede estar tan lleno de correo no deseado como su correo electrónico.

El verdadero poder de la inteligencia artificial como Google Duplex es que una vez que se implementa puede funcionar las 24 horas del día, los 365 días del año por el costo de una factura eléctrica. Y aunque esa factura eléctrica puede ser bastante alta, habremos creado una inteligencia de solución de problemas, singularmente enfocada, que no necesita descansar ni ser valorada de ninguna manera. Resolviendo problemas "humanos" sin la carga de la humanidad.

David Cope, que creó EMI (Experimentos en inteligencia musical):

David Cope ha escrito programas que componen conciertos, corales, sinfonías y óperas. Su primera creación se llamó EMI (Experiments in Musical Intelligence), que se especializó en imitar el estilo de Johann Sebastian Bach. Tomó siete años crear el programa, pero una vez que el trabajo estuvo terminado, EMI compuso 5,000 corales a la Bach en un solo día.

Cope organizó una presentación de algunas corales selectas en un festival de música en Santa Cruz. Los entusiastas miembros de la audiencia elogiaron la maravillosa actuación y explicaron con entusiasmo cómo la música tocó su ser más íntimo. No sabían que estaba compuesto por EMI en lugar de por Bach, y cuando se reveló la verdad, algunos reaccionaron con sombrío silencio, mientras que otros gritaron enojados.

¿En quién confías?
El simple hecho es que hemos estado utilizando algoritmos de inteligencia artificial durante años, desde búsquedas en Google y buscando pareja en Match.com hasta su lista de reproducción semanal de Spotify o guiando su experiencia de compra en Amazon. Como 'fabricantes', debe quedar claro que las herramientas que creamos tienen un gran impacto en la vida de las personas. Lo que era 'solo una aplicación' ayer, podría ser lo que forme tus creencias e inspire tus acciones mañana.

La tecnología no es una industria, es un método para transformar la cultura y la economía de los sistemas e instituciones existentes. Eso puede ser un poco difícil de entender si solo juzgamos a la tecnología como un conjunto de productos de consumo que compramos. Pero la tecnología es mucho más profunda que los teléfonos en nuestras manos, y debemos entender algunos cambios fundamentales en la sociedad si vamos a tomar buenas decisiones sobre la forma en que las compañías tecnológicas moldean nuestras vidas, y especialmente si queremos influir en las personas que en realidad hacer tecnología.

Yuval Noah Harari, autor de Homo Sapies y Homo Deus, argumenta que el liberalismo eventualmente se desvanecerá a medida que finalmente confiemos en el algoritmo más de lo que confiamos en nosotros mismos. Ray Dalio, un inversor exitoso, ya ha cambiado su empresa a una transparencia radical utilizando un sistema de puntos que analiza datos para calificar la "credibilidad" de las personas en lugar de operar a través de la democracia o incluso de la jerarquía. Le recomiendo que vea su charla TED: cómo crear una empresa donde las mejores ideas ganen como un ejemplo de cómo la IA puede hacernos más honestos, transparentes y guiar una mejor toma de decisiones.

Es posible que no haya podido decir que Google Duplex era una máquina en lugar de un ser humano real, pero otros afirmaron que la música compuesta por EMI obviamente carecía de "alma" y el oído humano podría decir.

Los críticos argumentaron que la música es técnicamente excelente, pero que le falta algo. Es muy preciso No tiene profundidad No tiene alma. El profesor Steve Larson de la Universidad de Oregon envió a Cope un desafío para un enfrentamiento musical. Larson sugirió que los pianistas profesionales tocan tres piezas una tras otra: una por Bach, una por EMI y una por el propio Larson. Luego se le pedirá a la audiencia que vote quién compuso qué pieza. Larson estaba convencido de que la gente distinguiría fácilmente la diferencia entre las composiciones humanas conmovedoras y el artefacto sin vida de una máquina. Cope aceptó el desafío.

En la fecha señalada, cientos de profesores, estudiantes y fanáticos de la música se reunieron en la sala de conciertos de la Universidad de Oregón. Al final de la presentación, se realizó una votación.

¿El resultado? La audiencia pensó que la pieza de EMI era genuina Bach, que la pieza de Bach fue compuesta por Larson, y que la pieza de Larson fue producida por una computadora.

¿Cuál es nuestra responsabilidad?
Desarrollar tecnología es emocionante e inspirador. Sin embargo, la regla anterior todavía se aplica: solo porque puede, no significa que deba hacerlo. El impacto de esta tecnología en nuestras vidas diarias se fortalece cada día y el cambio apenas comienza.

En disciplinas maduras como el derecho o la medicina, a menudo vemos siglos de aprendizaje incorporados en el plan de estudios profesional, con requisitos explícitos para la educación ética. Ahora, eso casi impide que sucedan transgresiones éticas: hoy podemos ver personas profundamente inmorales en posiciones de poder que fueron a las mejores escuelas de negocios que orgullosamente promocionan sus cacareadas programas de ética. Pero ese nivel básico de familiaridad con las preocupaciones éticas otorga a esos campos una gran fluidez en los conceptos de ética para que puedan tener conversaciones informadas. Y, lo que es más importante, garantiza que aquellos que quieran hacer lo correcto y hacer su trabajo de manera ética tengan una base firme sobre la cual construir.

Pero hasta la muy reciente reacción contra algunos de los peores excesos del mundo de la tecnología, hubo poco progreso en aumentar la expectativa de que se incorpore la educación ética en la capacitación técnica. Todavía hay muy pocos programas destinados a actualizar el conocimiento ético de quienes ya están en la fuerza de trabajo; la educación continua se centra principalmente en la adquisición de nuevas habilidades técnicas en lugar de sociales. No hay una solución milagrosa para este problema; es demasiado simplista pensar que simplemente al acercar a los científicos informáticos a una colaboración más estrecha con los estudiantes de artes liberales se abordarán de manera significativa estas preocupaciones éticas. Pero está claro que los tecnólogos tendrán que convertirse rápidamente en expertos en cuestiones éticas si quieren seguir contando con el amplio apoyo público que actualmente disfrutan.

Cada vez es más urgente que tengamos conversaciones serias sobre nuestras responsabilidades éticas respecto de los productos que creamos y los productos que elegimos usar. Todo sigue siendo tan nuevo. No hay una verdadera dirección o consenso para ayudarnos a determinar qué se considera correcto y qué es lo que está fuera de lugar. Nuestro mundo siempre se mueve tan rápido, casi nunca nos detenemos y consideramos la ética de nuestras elecciones. En cambio, simplemente vemos una máquina llamando a un peluquero, pensamos en lo maravilloso que es y seguimos con nuestro día ...