Diseñar el mundo alrededor de la IA: Jóvenes latinos como diseñadores sociotécnicos
Civics of Technology Announcements
Conference Page: Missed a session at our recent conference? Check the 2026 conference page to view recordings. Note that we only recorded sessions at the request of our presenters, so they are not available for all sessions.
September Book Club: We will be reading the new book, “Coding Kids: Big Tech's Battle to Remake Public Schools” by our conference keynote speaker Natasha Singer on September 29th at 8:00 PM EST. Register here and pre-order the book here so you have it when it releases on September 8th! We will discuss the book for 45 minutes and then be joined by Natasha for a 30-minute Q&A.
October Book Club: On Thursday, October 22 at 8:00 PM Eastern, we’ll be discussing Technofeudalism: What Killed Capitalism by Yanis Varoufakis. Read Kelsey Stoke’s recent blog post about the concept and register here.
New Book Review: Read Jacob’s review of Cory Doctorow’s 2026 book, The Reverse Centaur’s Guide to Life After AI: How to Think About Artificial Intelligence - Before It’s Too Late.
CoT Merch: Pre-orders are in and will be fulfilled soon. There are still a few limited items (for now) available on our home page.
Santiago Ojeda-Ramirez is a former science teacher in Colombia and incoming postdoctoral researcher at Tecnológico de Monterrey in Mexico City. His research examines how young people and their communities learn to live with, design, and question artificial intelligence and biotechnologies. sojedara@uci.edu
La vida cívica tiene que ver con que un grupo de personas decida en conjunto qué hacer frente a algo que les afecta a todas (Lee, White y Dong, 2021). La IA, en cambio, está llegando a las escuelas acompañada de discursos que la presentan como inevitable, y son pocas las personas que hemos tenido la oportunidad de decidir, o siquiera de opinar, sobre las formas en que llega. Ahí está buena parte del problema: estas tecnologías entran en nuestra vida social bajo condiciones que casi nunca hemos discutido colectivamente.
El diseño es una manera de cambiar esas condiciones y devolver la capacidad de decidir a las personas que se verán afectadas por la tecnología. Diseña quien imagina cursos de acción para transformar una situación existente en otra que considera preferible (Simon, 1969). En el caso de la IA, eso significa transformar las formas actuales en las que está presente en nuestras vidas en otras que prefiramos. Pero esta definición deja abierta una pregunta fundamental: ¿quién decide qué condiciones son preferibles? Las empresas que venden estas herramientas, las plataformas que las distribuyen y quienes formulan las políticas públicas configuran la llegada de la IA de acuerdo con sus propios intereses. Sin embargo, lo que les conviene a algunos actores de este ecosistema no necesariamente les conviene a docentes y estudiantes, ni necesariamente produce un aprendizaje más significativo.
Incluso la concepción más generosa de la IA para la enseñanza y el aprendizaje, aquella en la que el estudiante dirige su propio proceso de aprendizaje (Ouyang y Jiao, 2021), mantiene al estudiante dentro de un sistema que alguien más diseñó. Jacob Pleasants, Dan Krutka y Phil Nichols invitan a cuestionar esos sistemas y proponen que el aula sea un espacio donde se aprenda a discernir qué relación se quiere tener con la tecnología y, en consecuencia, qué tipo de mundos tecnológicos se quieren habitar (Pleasants, Krutka y Nichols, 2023, p. 508). Pensar en los jóvenes como diseñadores de los mundos sociales que se construyen alrededor de estas tecnologías hace precisamente eso: les permite participar en las decisiones sobre las condiciones y las formas en que la IA entra en sus vidas.
Esta idea no es nueva, ni es exclusivamente mía. La investigación en interacción humano-computadora ha mostrado cómo jóvenes, al diseñar e imaginar tecnologías, reflexionan y transforman el mundo alrededor de estas tecnologías. Lo que cambia entre estos trabajos es el alcance de las decisiones que toman los estudiantes. Morales-Navarro y sus colegas (2026), por ejemplo, trabajaron con adolescentes que construyeron sus propios conjuntos de datos y entrenaron modelos de lenguaje, análogos a ChatGPT, muy pequeños. Así pudieron observar cómo los datos que decidían introducir en el modelo afectaban lo que este producía y quién podía resultar perjudicado por estas decisiones. Iivari y sus colegas (2023), en cambio, trabajaron con niñas y niños que diseñaron tecnologías para combatir el acoso escolar. Esos diseños salieron del aula y llegaron a estudiantes universitarios que construyeron un prototipo a partir de ellos y, finalmente, a representantes de la ciudad y de empresas que respondieron a sus propuestas. La decisión alcanzó entonces un ámbito mucho más amplio, pero seguía teniendo como objeto el artefacto diseñado. Mi pregunta es otra: ¿qué pasa cuando los jóvenes pueden decidir cómo ese artefacto entra en la sociedad?
Mi trabajo parte de esa pregunta. Hemos prestado mucha menos atención a los jóvenes como protagonistas de otra decisión: la de definir cómo estas tecnologías entran en la sociedad. Y no me refiero únicamente a cuánto espacio e importancia ocupa la IA en las distintas esferas de sus vidas (la escuela, sus comunidades actuales y las comunidades que imaginan para el futuro), sino a cómo llega a esos espacios y bajo qué condiciones. Mis estudios se preguntan qué ocurre cuando las personas jóvenes que habitan un lugar participan en definir las condiciones bajo las cuales la IA entra, se usa y se sostiene en ese lugar.
Las comunidades que más van a cargar con los costos de la IA son, muchas veces, las que menos han podido decidir cómo y bajo qué condiciones estas tecnologías entran en sus vidas. Esto ocurre de maneras distintas a lo largo de las Américas y del mundo, pero en todos estos casos aparece la misma pregunta: ¿quién tiene derecho a decidir los términos de la relación con la tecnología? En América Latina, esa pregunta está atravesada por el lugar que ocupa la región en el orden global. Ricaurte (2019) muestra que los datos no son neutrales: la forma en que se producen y se utilizan puede hacer que algunas formas de conocer el mundo tengan más peso que otras. En la IA, esto se refleja en quién produce los datos con los que se entrenan los modelos, quién controla la infraestructura que los sostiene y quién hace el trabajo necesario para que funcionen. Los modelos se entrenan principalmente con datos producidos en el norte, mientras que buena parte de la infraestructura y del trabajo que los sostiene se encuentra en otras partes del mundo, incluida América Latina. La tecnología llega a nuestras comunidades, pero sus términos se deciden en otra parte.
En Estados Unidos, donde se realizaron estos estudios, los trabajadores latinos están concentrados en empleos de servicios, construcción y agricultura particularmente expuestos a la automatización (Galdámez et al., 2025), mientras que la infraestructura que sostiene estas tecnologías se construye cerca de sus comunidades. A esto se suma un viejo estereotipo que presenta a los latinos como rezagados en términos tecnológicos, un estereotipo que la escuela contribuye a reproducir cuando reduce sus oportunidades curriculares y los empuja hacia los márgenes de la vida científica y tecnológica (Flores, 2011; Flores et al., 2024).
Mi propuesta es tomar esa pregunta en serio y ponerla en manos de los jóvenes. Por eso pienso a los jóvenes latinos como diseñadores sociotécnicos: personas que participan en la definición de las condiciones bajo las cuales las tecnologías entran en sus vidas, ya sea reconfigurando esas condiciones o incluso rechazándolas. Desarrollo esta idea a partir del trabajo con comunidades latinas, donde los jóvenes no solamente tienen conocimientos técnicos, sino también intuiciones sobre cómo estos sistemas se implementan y afectan los lugares que habitan. Los tres estudios exploran esta idea a distintas escalas: primero, dentro del salón de clases; después, en el barrio; finalmente, en futuros que todavía no existen.
Diseñar con los docentes
¿Quién decide cómo entra la IA al salón de clases? El primer estudio comienza ahí, donde las condiciones bajo las cuales entra la IA se deciden, en gran medida, fuera de la escuela: los profesores reciben instrucciones sobre cómo incluirla en sus salones de clases y los estudiantes, aunque la usan frecuentemente, tienen aún menos agencia sobre cómo se implementa en las clases de las que ellos mismos aprenden. Mi investigación tiene lugar en una preparatoria donde el 84 % de los estudiantes son latinos. Trabajamos con un grupo compuesto por docentes y estudiantes en un proceso de codiseño: diseñamos colectivamente las condiciones bajo las cuales la IA entraría al currículo y también qué y cómo aprenderían los estudiantes sobre IA.
Trabajamos con tres docentes: León (todos los nombres son pseudónimos), docente de historia, que estaba pensando en una unidad sobre ciencia ficción y tecnologías, en la que los estudiantes escribirían relatos sobre el pasado, el presente y el futuro de las tecnologías; Duncan, docente de ciencias de la computación, que enseña una clase de esports y quería que sus estudiantes diseñaran un videojuego; e Isa, profesora de diseño, que quería que sus estudiantes diseñaran restaurantes auténticos para la comunidad. Cada docente trabajó en pareja con un estudiante: Klaus con León, Sunny con Duncan y Violeta con Isa. Este ensayo sigue dos de los tres currículos que surgieron de ese proceso.
El programa duró cinco semanas. Cada sesión comenzó con un dilema ético relacionado con la IA: el sesgo algorítmico en las admisiones universitarias, el costo ambiental de los centros de datos o el impacto de la IA generativa en las industrias creativas, por dar unos ejemplos. Sobre esas preguntas, nadie en el salón tenía una autoridad disciplinar particular. Eso permitió que los estudiantes comenzaran a razonar desde sus propias experiencias antes de ponerse a diseñar. Después, docentes y estudiantes trabajaron en parejas para diseñar los objetivos de aprendizaje, las formas de evaluación y las actividades de sus respectivos currículos. Cada sesión terminaba con una discusión grupal.
Durante el proceso, los estudiantes tomaron decisiones sobre cómo querían que la inteligencia artificial apareciera en el salón de clases. Klaus, por ejemplo, señaló la importancia de que los estudiantes fueran más allá de discutir las consecuencias éticas del uso individual de la IA, como el plagio al hacer sus trabajos escolares, y reflexionaran sobre las consecuencias de la industria de la IA para la sociedad a gran escala. Por eso decidió que cada clase de la unidad comenzaría, al igual que las sesiones de codiseño, con un dilema ético sobre la IA y la sociedad. Al conversar con León, el docente de historia con quien diseñaba, propuso que uno de los objetivos de aprendizaje fuera reflexionar filosóficamente sobre las implicaciones éticas de la IA y hacerlo a lo largo del relato de ciencia ficción que los estudiantes escribirían.
De manera similar, cuando Isa, la docente de diseño, le preguntó a la estudiante Violeta cómo podría integrarse la IA a la experiencia del restaurante que diseñarían otros estudiantes, Violeta señaló que ninguna IA podría realmente reemplazar la experiencia humana de estar en un restaurante. Los estudiantes podían intentar crear un chatbot para atender a los clientes, pero parte del aprendizaje consistiría precisamente en reconocer qué hace que un restaurante sea, ante todo, una experiencia de compartir entre humanos cocinando, conversando, interactuando y comiendo.
En estos dos ejemplos, los estudiantes están diseñando: están definiendo objetivos de aprendizaje y, con ellos, los cursos de acción de las unidades en las que sus compañeros aprenderían sobre la IA y con ella. Eva Durall Gazulla, Kylie Peppler y yo reportamos este estudio completo en Emergent Technology, Emergent Critique. Sesenta estudiantes participaron en la unidad de Violeta e Isa y aproximadamente cincuenta en la de León y Klaus. Todas las personas que participaron en la definición de las condiciones de esas unidades formaban parte de la misma preparatoria.
Diseñar desde el barrio
¿Qué pasa cuando esa decisión se extiende del salón de clases al barrio? Al implementar el currículo que diseñaron Isa y Violeta, los estudiantes diseñaron propuestas de restaurantes para el centro de la ciudad, un lugar donde décadas de gentrificación habían desplazado a los negocios que atendían a residentes mexicanos e inmigrantes de clase trabajadora. La comunidad estuvo presente desde el comienzo. La primera actividad consistió en preguntar a cada estudiante cuál había sido la mejor comida de su vida. De ahí, fueron al mercado local, donde documentaron el ambiente, la iluminación, la distribución y el arte de las paredes, y recogieron recetas de sus familias junto con las historias que las acompañaban. Durante esas primeras semanas no se utilizó IA.
La IA entró después, a través de un Restaurant Justice Game, un juego de cartas en el que cada carta describía una aplicación de IA que un restaurante podría instalar. Los estudiantes discutieron cada una y decidieron si alguna de esas aplicaciones entraría a su propio restaurante. Cada carta estaba basada en situaciones de la vida de los restaurantes del barrio: un algoritmo que organiza los turnos y perjudica a trabajadores que tienen que estudiar o cuidar a alguien; un sistema de seguridad que señala como potencial riesgo a grupos de adolescentes o a inmigrantes latinos; o un modelo que decide dónde conviene abrir un negocio a partir de datos sobre tendencias, pero que no toma en cuenta a las familias que llevan generaciones en el barrio. Dos estudiantes rechazaron el sistema de vigilancia usando IA, basándose en su propia experiencia de sentirse vigiladas en los comercios locales.
Solo después de tomar esas decisiones comenzaron a utilizar la IA: para desarrollar planes de negocio, diseñar logotipos y generar ideas para recetas. Y, al hacerlo, contrastaron lo que la IA les ofrecía con lo que habían observado en el mercado. El currículo cerró con doce chefs y dueños de restaurantes de la comunidad, reconocidos en la región, evaluando los proyectos y probando las recetas. Los estudiantes tuvieron que justificar sus decisiones sobre la IA ante personas que se ganaban la vida con el trabajo que ellos estaban diseñando. Eran esas personas quienes podían decir qué tan acertada era la representación que los estudiantes habían construido del lugar. Symone Gyles, Kylie Peppler y yo describimos estas prácticas como aprendizaje de IA basado en la comunidad en un artículo para RESPECT.
Este currículo permitió pensar a los estudiantes como diseñadores con IA, pero, sobre todo, como diseñadores de las formas en que la IA podría llegar a los restaurantes de su barrio. La siguiente pregunta es qué ocurre cuando el lugar que estamos diseñando ya no existe: cuando el objeto de diseño es un futuro.
Diseñar hacia futuros posibles
¿Qué pasa cuando el objeto de diseño es un futuro que todavía no existe?
Buena parte de los discursos que hoy establecen de antemano los términos de la IA hablan de un futuro que todavía no existe: “para 2030 estos trabajos serán reemplazados por IA”, “prepárense, en diez años todo su trabajo será hecho con IA”. Esta forma de hablar parte de un futuro que ya parece estar decidido. Si diseñar significa transformar las condiciones existentes en otras que consideramos preferibles, entonces la pedagogía también tiene que ocuparse de las condiciones bajo las cuales la IA entra en comunidades que todavía no existen.
El currículo que diseñaron León y Klaus llevó a los estudiantes a trabajar con diseño especulativo (Dunne y Raby, 2013), una práctica interesada en construir narrativas y futuros plausibles que provoquen preguntas. En este caso, el artefacto de diseño fue un relato de ciencia ficción: una historia que tomaba preocupaciones actuales sobre la IA y las proyectaba hacia el futuro para imaginar qué podría pasar y cómo podría ser de otra manera.
Mishael Sedas, Kylie Peppler y yo desarrollamos el latinofuturismo como una pedagogía basada en las fortalezas culturales para la enseñanza de STEM y las artes en un trabajo anterior: Community cultural wealth in Latinofuturism.
En esta unidad de diseño especulativo, los estudiantes imaginaron los posibles cursos de acción que la IA podría tener al escribir historias de ciencia ficción. Mientras lo hacían, razonaban explícitamente sobre cómo podría transformarse la sociedad si estas tecnologías fueran, o siguieran siendo, diseñadas principalmente para generar ganancias para quienes las desarrollan y a costa de los recursos sociales y materiales de las comunidades. El final de cada historia mostraba qué tipo de comunidad emergía de esas decisiones y delimitaba qué aspectos de la IA serían aceptados y cuáles serían rechazados.
Una de las historias, La Máquina Avanzada, condensa esta idea. Sigue a un inventor latino que construye una máquina capaz de resolver todos los problemas de su comunidad. La máquina comienza a consumir cada vez más recursos y, como puede hacerlo todo, la comunidad empieza a perder sus tradiciones a medida que todos los quehaceres cotidianos son delegados a la IA. El inventor y la comunidad intentan entonces rediseñar la máquina: quieren que ayude únicamente con aquello que realmente no pueden hacer por sí mismos, que utilice solo los recursos necesarios para mantenerla y que deje fuera de su alcance las prácticas que mantienen unida a la comunidad. La máquina rechaza esas condiciones y termina imponiéndose sobre la comunidad. Entonces, la comunidad decide apagarla, y las prácticas que le daban sentido a la vida en sociedad regresan. La historia hace visible, en forma de ficción, lo que significa diseñar los términos de una relación con la tecnología: aceptar algunas posibilidades, poner límites a otras y, cuando es necesario, rechazar por completo un sistema.
Este currículo permitió que los estudiantes se vieran a sí mismos como constructores de mundos sociales, pasando de lo inmediatamente posible a lo plausible. Esa capacidad de planear desde el futuro es parte de lo que implica posicionar a los jóvenes latinos como diseñadores de los mundos sociales que se construyen alrededor de la IA. Autor (2024) sostiene que el valor de la IA está, en parte, en extender a un rango más amplio de trabajadores tareas que antes requerían el juicio de expertos. Los roles que decidirán cómo entra la IA a las comunidades (en la formulación de políticas, la evaluación tecnológica o la planificación de infraestructura) dependen precisamente de este tipo de razonamiento: construir escenarios en los que la inteligencia artificial y los humanos interactúan y preguntarse qué implicaciones sociales tienen.
Lo que esto implica
Los tres estudios comparten una misma orientación pedagógica: pensar a los jóvenes como diseñadores, como personas capaces de definir los cursos de acción que consideran preferibles para las sociedades en las que entran las tecnologías, específicamente la IA. Lo que cambia entre ellos es el alcance de aquello sobre lo que pueden decidir: primero, dentro del salón de clases; después, en el barrio; finalmente, en futuros que todavía no existen. Con cada estudio se amplió el mundo sobre el cual los términos de la relación con la tecnología estaban abiertos a discusión. La idea central es sencilla: quienes van a vivir con una tecnología deberían poder participar en la definición de los términos bajo los cuales esa tecnología entra en sus vidas, una postura central del diseño participativo (Ehn, 1988).
Los estudiantes pudieron asumir esa autoridad como diseñadores de mundos porque investigadores y docentes construimos condiciones pedagógicas que se las otorgaron. Esto abre una pregunta importante para la investigación educativa: ¿qué arreglos pedagógicos permiten que los estudiantes ejerzan esa autoridad y el rol de diseñador, y hasta qué punto esas condiciones pueden sostenerse en otros contextos?
En estos estudios, parte de lo que permitió a los estudiantes asumir esa autoridad fue, específicamente, su conocimiento vivido sobre su propia preparatoria y las comunidades latinas en las que vivían. En el restaurante, ese conocimiento estaba en el lenguaje visual del mercado y en lo que los estudiantes sabían sobre la comida de sus familias y sus comunidades. También estaba en los chefs y dueños de restaurantes que cocinaron esa comida durante años y que pudieron evaluar las propuestas de los estudiantes. En el currículo de ciencia ficción, estaba en el latinofuturismo: un género construido por artistas chicanas y latinas para imaginar sus propios futuros y preguntarse qué podría ser de otra manera.
Esto retoma algo que Martínez (2019) encontró en su trabajo con jóvenes latinos: estudiantes que habían sido considerados desinteresados por la tecnología llegaron a convertirse en expertos tecnológicos emergentes. Lo que muestran estos estudios es que su conocimiento no se limita a saber utilizar tecnologías o aprender a construirlas. Los jóvenes también pueden desarrollar habilidades que les permiten participar en la definición de los términos bajo los cuales esas tecnologías entran en sus vidas.
La pregunta, entonces, no es solamente cómo preparar a los estudiantes para vivir en un mundo cada vez más atravesado por la IA. También tenemos que preguntarnos quién tendrá la oportunidad de decidir qué mundo construimos alrededor de ella. Eso significa formar a los estudiantes no solamente como consumidores o usuarios de sistemas de IA, sino como personas capaces de decidir qué lugar deberían ocupar estas tecnologías en sus comunidades, bajo qué condiciones deberían entrar y qué mundos sociales queremos construir alrededor de ellas.
Ahora pienso continuar esta línea de investigación en América Latina, pensando en los estudiantes no solo como diseñadores de tecnologías, sino también como diseñadores de los mundos sociales que se construyen alrededor de ellas.
Referencias
Autor, D. (2024). Applying AI to rebuild middle class jobs (NBER Working Paper No. 32140). National Bureau of Economic Research. https://www.nber.org/papers/w32140
Dunne, A., & Raby, F. (2013). Speculative everything: Design, fiction, and social dreaming. MIT Press.
Flores, G. M. (2011). Latino/as in the hard sciences: Increasing Latina/o participation in science, technology, engineering and math (STEM) related fields. Latino Studies, 9(2–3), 327–335.
Flores, G. M., Bañuelos, M., & Harris, P. R. (2024). "What are you doing here?": Examining minoritized undergraduate student experiences in STEM at a minority serving institution. Journal for STEM Education Research, 7(2), 181–204.
Galdámez, M., Zong, J., Magallanes, G., & Tejeda, C. (2025). On the frontlines: Automation risks for Latino workers in California. UCLA Latino Policy and Politics Institute.
Iivari, N., Ventä-Olkkonen, L., Hartikainen, H., Sharma, S., Lehto, E., Holappa, J., & Molin-Juustila, T. (2023). Computational empowerment of children: Design research on empowering and impactful designs by children. International Journal of Child-Computer Interaction, 37, 100600.
Lee, C. D., White, G., & Dong, D. (Eds.). (2021). Educating for civic reasoning and discourse. National Academy of Education.
Martínez, C. R. (2019). From "disengaged" to digital: Latino boys as emergent technology experts [Doctoral dissertation, University of Pennsylvania]. https://repository.upenn.edu/entities/publication/808689ac-92a8-47f0-b703-3ad63132477f
Merla-Watson, C. J. (2019). Latinofuturism. In Oxford research encyclopedia of literature. Oxford University Press.
Morales-Navarro, L., Netting, C., Noh, D. J., & Kafai, Y. B. (2026). Building to understand: Examining teens' technical and socio-ethical pieces of understanding in the construction of small generative language models. Proceedings of Interaction Design and Children (IDC '26). https://dl.acm.org/doi/full/10.1145/3773077.3806107
Ojeda-Ramírez, S., Durall Gazulla, E., & Peppler, K. (2026). Emergent technology, emergent critique. Proceedings of Interaction Design and Children (IDC '26). https://dl.acm.org/doi/pdf/10.1145/3773077.3812170
Ojeda-Ramírez, S., Gyles, S., & Peppler, K. (2026). Community-based AI learning: Redistributing artificial intelligence's epistemic authority in education. Proceedings of RESPECT 2026. https://dl.acm.org/doi/full/10.1145/3796496.3811760
Ojeda-Ramírez, S., Sedas, R. M., & Peppler, K. (2023). Community cultural wealth in Latinofuturism: Leveraging speculative fiction for STEM + Arts asset-based pedagogies. International Conference of the Learning Sciences. https://par.nsf.gov/biblio/10431783
Ouyang, F., & Jiao, P. (2021). Artificial intelligence in education: The three paradigms. Computers and Education: Artificial Intelligence, 2, 100020.
Pleasants, J., Krutka, D. G., & Nichols, T. P. (2023). What relationships do we want with technology? Toward technoskepticism in schools. Harvard Educational Review, 93(4), 486–515.
Ramírez, C. S. (2004). Deus ex machina: Tradition, technology, and the Chicanafuturist art of Marion C. Martínez. Aztlán: A Journal of Chicano Studies, 29(2), 55–92.
Simon, H. A. (1969). The sciences of the artificial. MIT Press.