3. Tehnički opis djelovanja AI Asistenta
AI Asistent je integriran u naše internetske stranice i djeluje uz pomoć više povezanih servisa:
- prikaz prozora asistenta na stranici odvija se putem usluge Fly.io, koja učitava malu skriptu (chatbot.js) i omogućuje prikaz AI Asistenta,
- obrada upita u pozadini odvija se na sigurnim poslužiteljima Amazon Web Services (AWS) u EU regiji – Frankfurt,
- koristi tehnologije umjetne inteligencije GPT te RAG sustav, koji omogućuje da AI tijekom razgovora pronađe točne i relevantne informacije, • za pretraživanje informacija koristi vektorsku bazu znanja Weaviate,
- pri traženju najbližeg servisa, prema potrebi koristi AWS Location Services.
Kada koristite AI Asistenta, vaš preglednik u pozadinu sustava šalje samo tri osnovna podatka koja su nužna za generiranje odgovora:
- sadržaj vašeg pitanja,
- session_id,
- odabrani jezik razgovora.
IP adresa i drugi identifikatori ne prenose se backendu. Za održavanje konteksta razgovora sustav koristi session_id te čuva posljednjih 5 poruka razgovora u AWS S3. Povijest razgovora, korisničke povratne informacije i tehnički logovi pohranjuju se u AWS servisima (S3, CloudWatch) i obrađuju u agregiranom ili anonimiziranom obliku u Metabase.