没有模仿人脑。
然而，对ai每一层都在提取什么特征，以及机器为何要做这些事情、为什么能得出结论，人类无法解释。根据输出，有些提取简单易懂，比如勾勒边缘、模糊图片、突出重点、锐化图片……可是，在很多时候，人类完全get不到！看着某层下来以后图片变成的样子，只能叫一声“什么鬼！”有时人类只能提出几个特征，ai分出好几百层！
它给了人空前的可能，也给了人无尽的困惑。
就像人类无比摸清大脑的工作原理一样，他们同样无法摸清ai的工作原理——训练ai这种方式为何能行？不知道。
它是如何学的？信息存在哪里？为何下此判断？问老天爷。
它好像在玄幻境界。码工时常觉得自己正在养蛊，贼刺激，给蛊虫喂个这个、喂个那个，一掀盖子，嚯，出来一个超厉害的东东！
有人说，让ai向人解释一个东西，相当于让人向狗解释一个东西，听着so sad。
人类历史充分表明，只有一个决策可以解释、分析，人才可以了解它的优点、缺陷，评估风险，知道它在多大程度能被信赖，明白该从哪些方面进行改善。
很多专家说过“必须质疑人工智能为何做出一个决定……显然，如果我们不在动机解释上花功夫，就无法信任这个系统”“难道无人汽车每回出事，企业都说不知原因、ai让它这么干的？”
何况，不幸的是，如同大脑会出错，ai也会出错。
32.裁员（三）(2/14)