Microsoft и NVIDIA предлагат обща таксономия, оценки и мерки за контрол, с които компаниите да управляват риска при внедряване на модели с отворени тегла.
Microsoft обяви съвместния доклад. Според компанията целта му е да помогне на организациите да управляват рисковете при внедряване на модели с отворени тегла. Подходът има три части: обща таксономия, оценки и мерки за контрол.
Общата таксономия дава единен речник за рисковете. Оценките проверяват тези рискове, а мерките за контрол определят какво следва да се направи. Подходът прилича на строителен стандарт: екипите използват едни и същи имена за опасностите, извършват проверки и задават изисквания за отстраняването им.
В съобщението няма числови резултати. Не са посочени оценки от сравнителни тестове, брой инциденти, процентно намаление на риска или сравнение между внедрявания със и без съответните мерки. Затова от публикуваната информация не може да се установи колко често оценките откриват проблеми и доколко предложените мерки намаляват риска.
Тази липса е важна за корпоративните купувачи. Таксономията може да направи вътрешните обсъждания по-последователни, но последователността не доказва, че дадена мярка работи. Екипите все още се нуждаят от измерими прагове, повторяеми тестове и ясни решения, обвързани с резултатите. Без тях оценката може да остане документация, вместо да служи като задължителна проверка преди пускане.
В съобщението не са посочени ограничения, признати от авторите. Липсват подробности за изследваните модели, средите за внедряване, сценариите за заплахи и обхвата на оценките. Затова публикацията трябва да се разглежда като рамка за управление на риска, а не като доказателство, че конкретен модел или конкретно внедряване е защитено.
За техническите екипи рамката предлага начин общите опасения за сигурността да се превърнат в работен процес. Те могат да приложат подхода, като:
- опишат всяка приложима категория риск преди внедряването;
- зададат оценка за всяка категория;
- определят и документират праг за одобрение или ескалация;
- свържат всяка неуспешна проверка с конкретна мярка и отговорник; и
- запазят доказателствата, така че решението да може да бъде прегледано по-късно.
Този процес показва и основното напрежение при моделите с отворени тегла. Гъвкавостта при внедряване може да остави на организациите повече отговорност да решат какво да тестват и кои защити са достатъчни. Рамката на Microsoft и NVIDIA може да подреди тези решения, но съобщението не определя какви прагове трябва да използват компаниите.
Конкретната следваща стъпка е екипите да изискват пълния доклад и измерими критерии за успешно или неуспешно преминаване, преди да включат рамката в процес за одобряване на продукционни системи. Общият речник може да постави началото на проверката, но не може да я завърши.
