NIST ima alat za testiranje rizika AI modela
PC Press 06.08.2024 | Angelina [PC Press]
Nacionalni institut za standarde i tehnologiju (NIST), agencija američkog Ministarstva trgovine koja razvija i testira tehnologiju za američku vladu, kompanije i širu javnost, ponovo je objavila program dizajniran da izmeri koliko zlonamerni napadi – posebno napadi koji „truju” AI model — mogu da pogoršaju performanse AI sistema.
Nazvan Dioptra (po klasičnom astronomskom i geodetskom instrumentu), modularni, veb-bazirani alat otvorenog koda, koji je prvi put objavljen 2022. godine, nastoji da pomogne kompanijama da obučavaju AI modele – i ljude koji koriste ove modele – da procene, analiziraju i prate AI rizike. Dioptra se može koristiti za merenje i istraživanje modela, kaže NIST, kao i da obezbedi zajedničku platformu za izlaganje modela simuliranim pretnjama u okruženju „crvenog tima“.
