OpenAI宫斗背后的深层原因:是一则对人工智能的道德拷问

2023-11-23 09:26     北京日报客户端

锐评 | OpenAI"宫斗"背后,是一则对人工智能的道德拷问

近日,知名科技公司OpenAI陷入"宫斗",董事会突然宣布将创始人兼首席执行官萨姆·阿尔特曼(Sam Altman)扫地出门。作为发明ChatGPT的人工智能明星公司,OpenAI管理层的变动迅速引发全球科技圈的关注。

身为公司"一把手",阿尔特曼对OpenAI从一家小机构成长为全球科技领域"独角兽"有着重要贡献,为何董事会要赶走这样一位"功勋人物"?目前来看,通用人工智能发展应当是"安全优先"还是"商业化优先"是冲突爆发的核心原因之一。

OpenAI 成立之初是一家非盈利机构,并设立了宏大愿景--确保人工智能不被垄断以造福人类。这样的理想主义目标,吸引了一大批顶级AI科学家拒绝其他科技巨头的"高官厚禄",而选择加入OpenAI。阿尔特曼则在 2019 年将这方"理想之地"改制成了营利公司,并推出ChatGPT引发了全球新一轮人工智能热潮。然而,OpenAI在获得巨大商业成功的同时,数据泄露、深度伪造、AI失控等一系列安全隐患愈发凸显,而阿尔特曼仍在全力加速下一代GPT研发以巩固商业优势。最终OpenAI内部的"安全保守派"掀起了风暴,推动董事会"流放"了阿尔特曼等"商业激进派",试图让公司回归初心。

犹记得八个多月前,包括马斯克在内的上千名科技人士曾发表联名信,呼吁暂停超强AI研发,也引发了全球对AI安全问题的重视。如今,OpenAI上演的这出"权力的游戏",再次将人工智能发展所面临的道德拷问展现在世人面前。

眼下,由于涉及上千亿参数与复杂的算法结构,一些AI大模型所展示的内容"涌现"能力已经令缔造者不可预测,其衍生的造假、侵犯隐私等问题更是大幅提高了监管难度。令人担忧的是,实现平衡AI发展、安全性和商业化之间的关系是一个复杂的问题,需要综合考虑技术成熟度、道德准则和法律法规等因素,必然耗费大量的时间。但在商业公司对于金钱的欲望、垄断的野心、落后的恐惧和安全的无共识下,全球人工智能行业已经陷入了"千模大战",在数据、算力和算法上疯狂"内卷"。正如OpenAI首席科学家伊尔亚·苏茨克维(Ilya Sutskever)所指出的,"世界需要清醒地认识到,各公司竞相研发使'超级智能'从'永远可能不会发生'变成了'很快就会发生'。"

今日关注
更多