基本信息
摘要:本申请涉及人工智能的模型部署领域,具体涉及一种人工智能系统风险检测方法、装置、计算机设备和存储介质。所述方法通过运行待检测人工智能系统,获取待检测人工智能系统在运行中的各个风险评价指标的指标参数,根据各个风险评价指标的指标参数对人工智能系统进行多角度的量化检测,而后通过系统的源代码以及其用途,确定其对应的权重参数,综合考虑指标参数以及对应参数来得到待检测人工智能系统的运行风险参数,通过该运行风险参数来对人工智能系统的运行风险检测,来确保已运行的人工智能系统是安全可控的,在人工智能系统的应用过程中把握及规避风险,减少安全问题或者事件的发生。
摘要附图: