ETKOT-botti on toteutettu RAG-tekniikalla (retrieval-augmented generation) käyttäen Googlen multimodaalista ja monikielistä Gemma3 kielimallia (versio 27B, julkaistu 12.03.2025) pohjamallina. ETKOT-botti demon aineistona on Kansalliskirjaston eteläsavolaista sanomalehtiaineistoa vuosilta 1917-1923 ja ELKAn arkistomateriaalia.

RAG-tekniikan avulla botti hakee tietoa sille annetuista lähteistä ja muodostaa käyttäjälle vastauksen niiden pohjalta. Botti vastaa kysymyksiin vain aineistokohtaisesti. Tämän tarkoituksena on vähentää kielimalleissa varsin yleistä hallusinointia. Pohjamallin rooli on muodostaa vastaus annettujen sääntöjen avulla (kuvassa oikealla ETKOT-botin säännöt).  

Lokaaliasennuksesta löydät lisää tietoa Avoimen kulttuuriperintötiedon hyödyntäminen -pilotin Gitlabistä,