L’intelligenza artificiale utilizzata per combattere il fenomeno del cyberbullismo, del sexting e dell’hate speech in rete. La startup udinese Kaitiaki si è posta come obiettivo quella di creare un sistema intelligente che permetta di analizzare eventuali attività sospette nei profili social. Con Fabrizio Macchia di Kaitiaki parliamo di violenza in rete e della loro startup.
Quali pericolo si celano in rete per i più giovani?
11.000.000 bambini e adolescenti in Europa sono stati vittime o protagonisti di atti di violenza online. Se parla sempre di più, ma informazioni come queste rendono ancor più chiaro il reale pericolo che i ragazzi corrono sui social e sul web, se non resi opportunamente consapevoli:
- L’80% considera normale offendere o insultare sui social
- L’86% non ritiene gravi le conseguenze per la vittima
- Il 35,9% ha conosciuto sul web estranei a cui ha inviato immagini di sé stesso nudo o seminudo
- Il 60% non ritiene grave pubblicare foto/video senza l’autorizzazione del soggetto coinvolto
- Il 30% subisce il furto della propria identità digitale
- 1 ragazzo su 5 si è ferito intenzionalmente; il 14% lo fa in maniera sistematica e ripetitiva.
Ma ancor più grave è che oltre il 71% delle famiglie non essendo consapevoli del problema, non intervengono!
Come aiuta Katiaki ad arginare questo problema?
L’idea nasce a fine 2015 dopo l’ennesimo caso di cyberbullismo e dopo esserci informati sull’entità del problema. Da esperti del settore delle tecnologie digitali ci siamo quindi posti la domanda “esiste un modo efficace per informare le famiglie nel momento stesso in cui un figlio è vittima e/o attore di un evento, consentendo un intervento prima che sia troppo tardi?” La risposta è diventata il progetto KAITIAKI (startup innovativa a vocazione sociale) che ha sviluppato una piattaforma che usa le tecnologie dell’intelligenza artificiale per controllare H24 i canali social dei figli, senza condividere nulla con i genitori; solo nel caso venga rilevato un pericolo infatti, Kaitiaki lancia il suo segnale di allarme. Ed è proprio sulla mancata consapevolezza dei genitori, che Kaitiaki interviene. Ricerche scientifiche, a livello nazionale ed Europeo, su fenomeni ormai diffussissimi come cyberbullismo, hate speech (messaggi d’odio), sexting e autolesionismo evidenziano una “sorveglianza” disattenta da parte dei genitori, che sottovalutano enormemente il problema ed i suoi effetti, se non addirittura ne ignorano l’esistenza. Inoltre Kaitiaki si pone nei confronti della società civile, non come una semplice app di sorveglianza, ma come un vero e proprio “ecosistema sociale digitale” con l’obiettivo di rendere Internet e i social un posto più sicuro e sereno per i ragazzi. Kaitiaki, rispettando il diritto alla privacy del minore, rileva in tempo reale le attività inappropriate sui profili social dei ragazzi consentendo alle famiglie di intervenire in tempo utile, prima che sia troppo tardi; inoltre fornisce strumenti di educazione, rilevamento e mappatura del rischio a scuola, istituzioni e associazioni che si occupano di disagi minorili. Per questo approccio innovativo, Kaitiaki nel 2017 ha ricevuto il Sales of Excellence della Comunità Europea, nell’area Open Disruptive Innovation Scheme di Horizon 2020.
Come funziona la tecnologia d’IA di Kaitiaki?
Kaitiaki ha sviluppato internamente il motore di intelligenza artificiale, che rispetto a soluzioni similari, sfrutta contemporaneamente le reti neurali per il riconoscimento di immagini e deep learning per la comprensione del linguaggio naturale già usate in diversi settori della linguistica computazionale, che vengono integrate a innovative tecniche sperimentate con successo in diversi campi di estrazione dell’informazione: valutazione psicometrica, analisi del sentiment, modellazione tematica e analisi linguistica. La novità dell’approccio Kaitiaki, rispetto allo stato dell’arte, consiste quindi nell’integrare diverse strategie e risorse al fine di individuare l’effettiva pragmatica dei messaggi di testo e delle immagini, non concentrandosi su una semplice analisi semantica (bad words), bensì sull’individuazione di comportamenti aggressivi volti a minare l’autostima della vittima e la valutazione del grado di percezione da parte del soggetto ricevente.
Quali applicazioni avete sviluppato?
Attualmente abbiamo due applicazione attive: Kaitiaki APP (in test presso 40 famiglie), un‘applicazione online, fornita in abbonamento alle famiglie, che analizza l’attività nei profili social dei figli, rileva anomalie e attacchi e invia ai genitori segnali di allarme, garantendo la privacy del minore. L’altra è Kaitiaki EDU (in test in oltre 300 scuole), un‘applicazione online gratuita dedicata alle scuole per educare i ragazzi al riconoscimento delle dinamiche del cyberbullismo e dei messaggi d’odio; può mappare il livello di rischio della classe/scuola in cui viene utilizzato.
Com’è composto il vostro team?
Il team Kaitiaki è composto d 9 persone con esperienza e competenze strategiche, tecniche, marketing, gestionali e finanziarie, necessarie alla conduzione della società:
- Fabrizio Macchia – CEO, co-founder di 4 startup ICT, HI-Tech e CSR Advisor
- Paolo Bolpet – CMO, co-founder di 3 startup ICT e Hi-Tech
- Davide Cuttini – CTO, co-founder di 4 startup ICT e Hi-Tech
- Dante Degl’Innocenti – R&D, co-founder di 2 startup ICT, PhD intelligenza artificiale
- Marco Pavan – R&D, co-founder di 2 startup ICT. PhD intelligenza artificiale
- Dario De Nart – R&D, co-founder di 2 startup ICT. PhD intelligenza artificiale
- Giorgia Macchia – co-founder di 1 startup ICT. Social media manager
- Carlo Parolin – Presidente CDA, Advisor in controllo di gestione e consulenza del lavoro
- Giovanni Tubetti – CFO, Financing Advisor, consulenza tributaria, contabile e di revisione
Perché il nome Kaitiaki?
Kaitiaki è un termine della cultura Maori (Nuova Zelanda), che abbiamo adottato perchè vuol dire guardiano e protettore. Infatti il nostro Kaitiaki è un guardiano silente che protegge i ragazzi, rispettandone il diritto di privacy, ma che in grado di intervinire nel momento del bisogno.
Quali progetti avete per il futuro?
Nel medio termine 2019/2020, abbiamo l’obiettivo di completare e rilasciare altre due applicazioni:
- Kaitiaki GAME, applicazione mobile gratuita ha il compito di educare i ragazzi all’utilizzo responsabile della rete attraverso i meccanismi della gamification, oltre ad essere un supporto per la formazione digitale dei genitori, con la possibilità di creare community sia tra ragazzi che tra genitori.
- Kaitiaki CHAT, chatbot intelligente gratuita fornisce H24 a ragazzi e genitori informazioni, contatti degli enti di riferimento a cui rivolgersi per il problema specifico riscontrato.
Leggi altre interviste a startup!
