HalluciGen chiffriert Website-Inhalte zu Unsinn und gibt diese selektiv an bekannte KI-Crawler weiter, die das Internet nach Inhalten durchsuchen, um so den Modelltrainingsprozess zu stören. Das Proof-of-Concept-WordPress-Plugin wurde im Auftrag  des Lehrstuhls für Zeitgenössische Digitale Medien an der Akademie der Bildenden Künste in München als Open Source veröffentlicht.

HalluciGen verwendet einfache Markov-Ketten, um einen Teil der Wörter und Bilder in einem (Blog-)Beitrag selektiv zu ersetzen, sodass die Bedeutung auf eine Weise verzerrt wird, die von typischen großen Sprachmodellen wie ChatGPT, Claude oder Gemini nicht leicht zu erkennen ist. Das Ziel ist es, die Qualität von KI-generierten Inhalten, die oft ohnehin schon von minderwertiger Qualität sind, weiter zu verschlechtern und so den unbefugten Zugriff auf und die Nutzung von urheberrechtlich geschützten Inhalten zu verhindern.

Das Prinzip wird in einem Beitrag für Carrier Bag ausführlich erklärt und diskutiert.