ONE ChatGPT 的产品性质?:知识的结构性
Google search, Bing, Baidu, 以及很多科研数据库、代码 lib 仓库,社区产品的内部搜索(知乎,小红书等),这些传统的搜索引擎,对知识,内容和服务做的是:索引,编排 后来有不少产品希望:在传统搜索引擎,对知识进行静态的结构化,比如加上知识图谱网络,弥补完整的上下文,主题聚类等
现在的(姑且说是第三代)搜索引擎,ChatGPT类似产品:对知识,内容,服务进行逻辑结构分析,关联分析,并进行逻辑推理(ChatGPT是否达到此处的描述另说)
总结:都是一种 compile
第一代 进行可访问 compile(一级索引)
第二代 进行关联 compile(二级索引:知识/概念之间挖掘 知识结构);
第三代 进行逻辑 compile (三级索引:知识/概念结构网络上,运行一些普遍的逻辑推理引擎)
Compile的静态产物往往是所谓的 元数据;这三个层次,分别是上一次的元数据 其动态产物往往是“代码”,可结构化,逻辑化,重组,模拟和逻辑推演的 目前只有第三层达到
语言表达知识也是如此:
- 取名字 对已有的概念,记忆内容,取一个特定名字,或者用 时间定位 描述这个场景
- 写目录 已有概念/知识/认知 的关联关系
- 下定义 用已有的概念推理出这个新概念/知识
ChatGPT 语料库 依赖于 第一代搜索引擎是显然的 同时,最终在用户交互上,体现为搜索引擎产品也是合理的
其次比起那些 数学决策算法,小规模的AI 模型,ChatGPT 主要的能力也在于其上下文是整个网络生产的内容,这也是其 超大规模 LLM 的主要内涵所在
在不同的问题域,只需要模板化的算法,代表小上下文问题域的小规模 AI 模型,像这种全网内容上下文对应的超大规模 AI 模型,全面知识结构的全网全时间的搜索领域问题是其最基本的立足点
TWO 参与者自处:个人, 学会提问
找到正确的人,提出一个正确/准确的问题,才有可能得到(在目前)正确的答案 有三步
- 找到正确的人:AI能帮完成一部分,主要在人为,描述的是在群体中交流合作中需要关注的; (可别本应该找自己却总是找他人)
- 提出一个正确的问题:这几乎百分之百必须由人完成
- 找到正确的答案:ANI能帮助结构化知识与内容,模型化的给出已有答案和不同侧面的逻辑推理与关联 提问比解答难
让AI能自主提问,或许是下一代的内容核心,成为 AGI
的必要一步
(ANI:artificial narrow intelligence) (
AGI
:artificial general intelligence) 吴恩达 DeepL
《穷查理宝典》中,查理提出的多元模型,主要学科的主要理论,在某种层面上,都是这些学科已经探索出来的 解决问题,重新定义问题(问题解析)的模型,都是较好的解决问题的那一部分
如何提问?这本身就是一个问题,也是个好的问题:提出问题 得出答案 在答案基础上再提出问题,如此递归迭代下去,便是认知的最基本的流程
有些提问往往能体现“人性” 我是谁 我在哪 我要去往何处(哲学); 人生的意义 人是什么(神造,进化论,心理学,生理学);我爱谁,如何去爱,我必须要有爱嘛 逻辑是什么 爱智慧…… 这些问题几乎是驱动人类一直往前走;有些问题很结构化 xxx 概念的 5w1h 市场假设 集合 理性人假设 上帝模型 …..
THREE 参与者自处:产品服务构建者
当前进度是 资本认可度有了,用户教育程度有了,Killer 级产品有了,全多跨领域的 AI 推进将会像以前 计算机的能力加速自动化与效率提升一样
一般的,凡事有能力提供,必定要有其接入平台
目前 AI 能力的基建已经由 OpenAI 等团队基本建立起来,其模型也在越发的增长膨胀,Google Bart 等都会开放参与
大公司,如果产品和自己主业务和规划 匹配,则会基于AI基建构建产品服务,如 Stable Diffusion, Midjourney等
小产品,则会通过开放 AI 基建能力,在 AIaaS 构建起来:所谓 “XXX powered by OpenAI”, “import openai” , 如 Anki 这种词典,网页划次翻译器,Notion AI等等很多细分领域和场景,参与到社会生活生产的方方面面
目前集成AI能力的方式:
算法使用传统包,低算力需求,核心在算法和典型的数学模型 小规模AI模型在边缘节点运行 大规模AI模型通过 AIaaS 平台/ OpenAPI 来接入
FOUR 附言
从电力无处不在,到算力无处不在,接着AI无处不在
其实,AI作为一个科技技术生产力,其对人类的生活很有可能像电力进入人类生活一样大的影响力,但是如OpenAI对应产品创始人所言:我们需要冷静对待这个产品
第一:OpenAI 目前还是在做“炼丹师”的活,出来个ChatGPT算是做出来了“火药”,但是能否催生出“化学”,“物理学”,尚有待发展;
第二:OpenAI 目前没有大众期待的东西:意识,灵魂性(人类认为自己有意识性和灵魂性,这本身是一种人类的虚妄,就像人为神造,君权神授一样的虚妄与阴谋,关于如何避免意识存在性问题,图灵测试给出一个好的方案)
第三:计算智能的能力自计算器诞生以来就一直在释放,到专家系统,自动形式证明系统,再到面向大众的ANI产品;
第四:新的技术生产力对社会结构,法律政策制定,对人类自身认知和道德教化都有其内生性的要求;对于像 ChatGPT 代表的大上下文信息参与的产品在强内容审查的环境下,更是有诸多矛盾点待解决
FIN 学习资料
[1] minGPT,最小化版本的GPT,可用来学习原理,Github 13.4K+ Star图片 https://github.com/karpathy/minGPT
[2] 2022 年人工智能领域最新突破的重磅论文,给每一篇论文配上了Youtube短视频的清晰讲解 https://github.com/louisfb01/best_AI_papers_2022
[3] 对大众有趣的:【用随机梯度下降来优化人生-哔哩哔哩】 https://b23.tv/VHNh1Fc