"A mesura que l'aprenentatge de la màquina es fa omnipresent i s'utilitza per a aplicacions amb conseqüències més greus, és necessari que la gent entengui com està fent prediccions, de manera que confiaran en fer-ho més que publicar un anunci", diu Jonathan Su, membre del personal tècnic del Grup de Suport a la Tècnica i Informàtica del MIT Lincoln Laboratory.
Actualment, els investigadors utilitzen tècniques post hoc o un model interpretable com un arbre de decisió per explicar com un model de caixa negra arriba a la seva conclusió. Amb tècniques post hoc, els investigadors observen les entrades i els resultats d'un algoritme i, a continuació, intenten construir una explicació aproximada del que va passar dins del quadre negre. El problema amb aquest mètode és que els investigadors només poden adivinar el funcionament intern, i les explicacions sovint poden estar equivocades. Els arbres de decisió, quines opcions del mapa i les seves possibles conseqüències en una construcció semblant a l'arbre, funcionen bé per obtenir dades categòriques les característiques tenen un significat significatiu, però aquests arbres no són interpretables en dominis importants, com ara la visió per computador i altres problemes complexos de dades.
Una xarxa neuronal és un sistema informàtic format per molts elements de processament interconnectats. Normalment, aquestes xarxes s'utilitzen per a l'anàlisi d'imatges i el reconeixement d'objectes. Per exemple, es pot ensenyar un algoritmo per reconèixer si una fotografia inclou un gos en mostrar-se les fotografies de gossos. Els investigadors diuen que el problema amb aquestes xarxes neuronals és que les seves funcions no són lineals i recursives, a més de complicades i confuses per als éssers humans, i el resultat final és que és difícil determinar quina és la xarxa definida com "dogness" dins de les fotos i el que el va portar a aquesta conclusió.
Per solucionar aquest problema, l'equip està desenvolupant el que denomina "xarxes neuronals prototip". Són diferents de les xarxes neuronals tradicionals, ja que codifiquen de forma natural les explicacions de cadascuna de les seves prediccions mitjançant la creació de prototips, que són parts representatives d'una imatge d'entrada. Aquestes xarxes fan les seves prediccions basades en la semblança de parts de la imatge d'entrada a cada prototip.
L'altra àrea que investiga l'equip de recerca és BRL, que són arbres de decisió unilaterals i menys complicats que són adequats per a dades tabulars i sovint tan exactes com altres models. Els BRL estan formats per una seqüència d'afirmacions condicionals que, naturalment, formen un model interpretable. Per exemple, si la pressió sanguínia és alta, el risc de patir malaltia cardíaca és elevat. Su i els seus companys utilitzen propietats de BRL per permetre als usuaris indicar quines característiques són importants per a una predicció. També estan desenvolupant BRL interactius, que es poden adaptar immediatament quan arriben noves dades en lloc de recalibrar-se des de zero en un conjunt de dades cada vegada més gran.
Ell explica: "Esperem construir una nova capacitat estratègica per als algoritmes d'aprenentatge de màquines de laboratori que la gent confia perquè els entén".
