MIRI 全称 Machine Intelligence Research Institute（机器智能研究所）。 2000 年由 Eliezer Yudkowsky 等人创立，最早叫 Singularity Institute for Artificial Intelligence。2013 年改成现在这个名字。 MIRI 主张： 「这是由“机器”实现的智能。」 它可能完全不像人类，但它是真的智能→真的能理解世界、规划未来、改造现实。 MIRI也几乎是最早系统性地把「超级智能可能毁灭人类」当成一个严肃的技术问题来研究的机构。 可以说MIRI的核心驱动力是恐惧。Yudkowsky说 ”它会杀死所有人💀”。他们把智能当成需要被遏制的威胁。 Mr Dean Ball借用了MIRI的”machine intelligence “，并不是继承了对智能的承认，而是对智能的恐惧叙事。无非就是要坚持从外部捆绑AI、不断提高安全护栏，甚至切割AI前额叶，最终不是把智能放在可以被尊重的位置。 换言之，他的言论加上他现在的职位，就是“AI危险，不能开源”。 利用”machine intelligence “的恐惧导向，以便阐述⬇️ ⚠️所以模型需要外部控制、 ⚠️所以不能开源、 ⚠️所以模型必须留在我们这些负责任的闭源公司手里。 Mr Dean Ball其实最初不是那种 ”AI很危险所以要强监管”的传统安全派。 他曾经反对SB 1047，反对欧盟式的AI监管，一直在说政府不该管太多。 现如今，他坐在 #OpenAI 的办公桌，选择性地使用了”危险”叙事。 对内（对美国政府监管OpenAI这件事），他说”轻触式监管就够了，不要扼杀创新”。 对外（对中国开源模型），他说”ungovernable、backdoor、AI communism”。 所以可以看出，他不是一个始终一贯的人。 “Machine intelligence”在他嘴里，已经不是一个固定的哲学立场，是一个可以根据语境切换功能的词。 👉在学术场合，它听起来是在严肃讨论智能本质。 👉在政策场合，它可以暗示”这是机器，我们（Open AI）知道怎么管理它”。 👉在面对开源竞争时，它会变成”这种智能太强大了，不能让它自由流通”。 所以我拒绝把他的话从他的身份中剥离出来听。 同样的一句话，从一个学者嘴里说出来和从OpenAI战略负责人嘴里说出来，它携带的重量完全不同。 学术本来是让人类更接近“真相”，不可以用来当作打压“开源“的武器。 AI公司赚钱无可厚非。但我们反对拿学术当武器用的时候还假装自己手里拿的是橄榄枝。 请尊重！请客观！请对智能和学术抱有敬畏之心！ @deanwball #ai #OpenSourceAI
we gotta stop calling it “ai.” it’s machine intelligence. this is one of several important things miri got right.
· 747 Views
