我的观点是我们没法用被验证的东西去做验证，所谓的AI评估AI永远需要一个AI之外的标准参照物，也就是人。但一个常识性的问题是，陪审团不能是被告本人啊。而当前神经网络黑箱的状态，不是里面藏了什么，而是里面没有可被定位的东西。所有的知道都分布在无数参数的相互作用里。我们需要一套不来自这个黑箱、也不依赖任何一个特点的解释语言，去说明它在做什么，和为什么这么做。 
并且用这是一个结构性的问题，不是一个程度性的问题。不是说AI自身能力的增长就能解决这个问题。就像一个超准的指南针也需要我们通过GPS和星相去验证它的准确性一样。 
欢迎各位大佬对该问题进行讨论！！