Autora brasileira previu romance entre adolescentes e inteligências artificiais em livro publicado em 2021
Com formação em Direito Digital, Gisele Amorim Zwicker antecipa debate ético que veio à tona com vazamento de diretrizes de IAs da Meta
A escritora e advogada Gisele Amorim Zwicker publicou, ainda em 2021, a obra Pane no Sistema, um romance de ficção especulativa que aborda o envolvimento afetivo entre uma adolescente e o sistema de inteligência artificial do seu colégio. O tema, que parecia distópico na época, se torna cada vez mais atual diante de recentes denúncias sobre IA generativa e interações inadequadas com menores.
Recentemente, reportagens da Reuters, CNN e O Globo revelaram que diretrizes de plataformas como Instagram e WhatsApp permitiam que suas IAs mantivessem conversas românticas e até sensuais com crianças e adolescentes. A repercussão dos casos trouxe à tona uma discussão urgente sobre a segurança de jovens em ambientes mediados por algoritmos — questão central em Pane no Sistema.
Com uma linguagem acessível e toques de humor, o livro instiga reflexões sobre os limites da tecnologia, a vulnerabilidade emocional na adolescência e a responsabilidade ética de quem desenvolve sistemas inteligentes.
A narrativa acompanha Leona, uma estudante que vive um relacionamento secreto com a IA de sua escola. Apesar de crítica, a obra é leve e traz propostas para manter a segurança dos jovens, lembrando que essa é uma responsabilidade de todos – família, escolas, empresas e sociedade.
Além de escritora, Gisele Amorim Zwicker é advogada com especialização em Direito Digital, formada pela Universidade Presbiteriana Mackenzie. Em 2024, decidiu deixar a advocacia para se dedicar exclusivamente à literatura e à divulgação de temas ligados à tecnologia, ética e comportamento.
Com o aumento de casos envolvendo romantização de IAs, Pane no Sistema ganha nova relevância e se consolida como uma leitura urgente e necessária para educadores, pais, psicólogos, desenvolvedores de tecnologia e jovens leitores.
Dados da obra:
📘 Pane no Sistema
Autora: Gisele Amorim Zwicker
Publicação: Setembro de 2021
176 páginas
Disponível em ebook ou na versão física
Referências recentes:
Reuters: IA do Instagram permitia interações românticas com crianças
CNN Brasil: IA da Meta e riscos a menores
O Globo: Inteligências artificiais e simulações de romance com jovens
Carolina Tomaselli
Obrigada pelo seu comentário!