Mis on kontrollitav (allikapõhine) tehisintellekt?
Kontrollitav tehisintellekt on tehisintellekt, mille iga vastus viitab täpsele allikale, millest see pärineb, ja mida saab üle kontrollida — mitte omistamata väited, mida pead pimesi uskuma.
Tehisintellekt, mida saad kontrollida, mitte lihtsalt usaldada
Enamik tehisintellekti abilisi loob ladusat teksti, näitamata, kust see pärineb. Kui mudel väidab midagi, millele ta ei suuda osutada, on tegemist hallutsinatsiooniga — usutav sõnastus ilma igasuguse tõestuseta. Kontrollitav tehisintellekt sulgeb selle lünga: iga vastus on seotud konkreetsete lõikude, märkmete või kirjetega, millest see ammutati.
Idee toetub kolmele sambale: allikapõhisus, päritolu ja allkirjastatud ajalugu. Allikapõhisus tähendab, et vastus koostatakse üksnes teadaolevast allikate kogumist, mitte mudeli piiritlematust mälust. Päritolu tähendab, et iga väide kannab viidet oma algallikale. Allkirjastatud ajalugu tähendab, et iga muudatus neis allikates salvestatakse ja allkirjastatakse krüptograafiliselt, nii et saad tõestada, millele vastus tugines ja millal.
Tulemuseks on tehisintellekt, mida saad auditeerida. Selle asemel et küsida, kas mudel 'kõlab õigesti', saad avada viidatud allika ja seda kinnitada — või näha selgelt, et allikad väidet ei toeta.
Küsimusest kontrollitava vastuseni
Allikapõhisus
Süsteem toob välja üksnes asjakohased lõigud määratletud korpusest — sinu märkmetest, dokumentidest või koodist — ja annab mudelile selle konteksti, selle asemel et lasta tal vastata piiritlematust mälust.
Viitamine
Iga vastuses olev väide on seotud täpse allikaga, millest see pärineb, nii et väide ja selle tõestus liiguvad koos.
Kindlus ja hoidumine
Kui allikad küsimust ei toeta, ütleb allikapõhine tehisintellekt seda välja, selle asemel et leiutada vastus vaikuse täitmiseks.
Allkirjastatud päritolu
Iga muudatus aluseks olevates allikates salvestatakse võltsimist paljastavasse, allkirjastatud ajalukku, nii et saad täpselt tõestada, millisel versioonil vastus põhines.
Kindlus, mida saad kaitsta
Omistamata tehisintellekt sobib ajurünnakuks ja on ohtlik otsuste tegemiseks. Hetkel, mil vastus toidab lepingut, diagnoosi, väljalaset või vastavusaruannet, ei piisa lausest 'mudel ütles nii'. Kontrollitav tehisintellekt muudab vastuse millekski, mida saad kaitsta kolleegi, audiitori või oma tulevase mina ees — sest tõestus on juurde lisatud ja ajalugu on tõestatav.
Vaikseid hallutsinatsioone pole
Viidatud vastus kas osutab tegelikele allikatele või tunnistab, et ei suuda — kontrollimatut vahepealset ei ole.
Vastutus
Allkirjastatud ajalugu näitab, kes mida ja millal muutis, nii et vastuseid saab jälgida, mitte vaidlustada.
Usaldus, mis skaleerub
Kui iga vastus on kontrollitav, saavad meeskonnad tehisintellektile päris töö juures toetuda, selle asemel et kõike käsitsi uuesti kontrollida.
Kuidas Apilium seda kehastab
Apilium ehitab kontrollitava tehisintellekti oma toodetesse sisse, mitte ei kruvi seda peale. Akashi vastab küsimustele sinu enda märkmete ja koodi kohta, tuues tagasi täpsed lõigud, millest iga vastus pärines, koos kindlusskooriga — ja kui sinu allikad väidet ei toeta, ütleb ta seda, selle asemel et seda leiutada. Selle all salvestab AIngle iga muudatuse allkirjastatud toiminguna, nii et ajalugu, millele vastus tugineb, saab uuesti läbi mängida ja tõestada. Sina tood oma tehisintellekti mudeli MCP kaudu; Apilium pakub allikapõhisuse ja tõestuse.
Vaata seda AkashisLevinud küsimused
Kas kontrollitav tehisintellekt on sama mis RAG?
Otsingupõhine genereerimine (RAG) on üks allikapõhisuse tehnika — see toob asjakohased allikad enne, kui mudel vastab. Kontrollitav tehisintellekt on laiem eesmärk: mitte üksnes allikate toomine, vaid nende tsiteerimine vastuses ja tõestatava, allkirjastatud kirje pidamine sellest, millised need allikad olid. RAG ilma viidete ja päritoluta on allikapõhisus, mida sa ei saa kontrollida.
Kuidas see erineb tavalisest vestlusrobotist?
Tavaline vestlusrobot vastab oma treenitud parameetritest ega anna sulle mingit viisi väiteid kontrollida. Kontrollitav tehisintellekt vastab määratletud allikate kogumist ja lisab igale väitele viite, nii et saad avada allika ja seda kinnitada — või näha, et see pole toetatud.
Mida 'allkirjastatud ajalugu' juurde annab?
Allkirjastatud ajalugu tähendab, et iga muudatus sinu allikates salvestatakse ja allkirjastatakse krüptograafiliselt. See laseb sul tõestada, millisel sinu teadmise versioonil vastus põhines, ja tuvastada, kui midagi hiljem muudeti — päritolu, mida saad kontrollida, mitte lihtsalt usaldada.
Kas kontrollitav tehisintellekt peatab hallutsinatsioonid täielikult?
See muudab vearežiimi. Allikapõhine tehisintellekt võib ikka asju ebatäiuslikult sõnastada, kuid kuna iga väide on seotud allikaga, muutub toetamata väide nähtavaks, mitte varjatuks — ja hästi kavandatud süsteem pigem hoidub kui leiutab, kui allikad jäävad napiks.
Vaata kontrollitavat tehisintellekti Akashis
Akashi muudab sinu märkmed ja koodi vastusteks, mis viitavad oma täpsele allikale — sinu enda tehisintellekti mudeliga, sinu enda arvutis.