有关人机聊天的一次聊天

纽约老熊  02:38

赛先生中的顾凡及的文章很好。希望多有这样的文章出现。有空了，将写一个评论。

Shifa  02:43

@纽约老熊 我也觉得这文章很好，说的是事实

纽约老熊  02:48

@宝石头 ，文章很有趣。看到“基于信息技术哲学的当代认识论研究“，[微笑] 我感到，好像有一点没有明确提到，那就是，在若干领域，停留在逻辑层次，远比停留在更低层次效率高，特别是这种切分的问题。这是NARS的好处。但是，是否有人定义了这种切分问题的各种准确度？有了准确度，就可以进一步做工程学的思考。

纽约老熊  02:53

@张世发 ，文章里面的那个例子，就是单眼双眼的例子，非常有说服力。很好说明了个体体验的意义。当然，顾凡及没有提到认识论，但我想，如果导入认识论，应该更有意义。

Shifa  02:55

顾老师不搞哲学？

Shifa  03:01

第一人称的主观体验也许真的不能被第三人称感受到，但可能可以被第三人称观察到。
感受是直接的，观察是间接的。
这样智能系统的设计者是不可能感受到智能系统的体验的。这样如果谁说设计出有什么体验的机器，肯定是在骗人。

Shifa  03:04

体验不能作为设计目标，功能、行为才能。体验重要吗？也许功能满足了体验自然就好了，但也可能因为体验好了，功能才能满足。

Shifa  03:06

一个认知机器，如果充电的体验很差，生不如死，那么自动连接充电器的功能肯定无法实现

Shifa  03:13

体验虽然无法被第三方感受到，似乎无法实现。但可能没那么复杂，而只是认知系统对事物贴上的标签，喜欢、厌恶、害怕、痛苦都是标签，意义在标签对认知系统的行为的影响。只要恰当定义这些标签对应的行为，就能实现这些体验？

Shifa  03:17

颜色、音调都是标签，但和行为没有固定的对应关系，要和具体对象、场景结合后才对应特定行为。

denglang  03:52



刘伟  07:09



刘伟  07:09

混馈真实存在于各种人工智能、自动化等开环、闭环各种情境中，既包括多个反馈也包括多个前馈过程，由于过于复杂，对于混馈研究目前仍是一个谜！

朱宗晓  08:06

这篇文章啥都没说[尴尬]

刘伟  08:08

除了混馈中的反馈前馈之外，更有意思的是还有软馈和硬馈，如道德和法律一般[咖啡]

朱宗晓  08:16

对于一个聊天机器人来说

朱宗晓  08:16

前馈是察言观色，主动地说

朱宗晓  08:17

[图片: 4d73b379856238b4d9f0b4aac905bd24.jpg(请在附件中查看)]

朱宗晓  08:17

反馈分两种，一种是猜自己主人会怎么说

朱宗晓  08:17

还有一种是猜对方会怎么说，这个难度更大

朱宗晓  08:17

总之都是无限空间非完美信息博弈要研究的问题

朱宗晓  08:18

大家觉得实现的可能有多大[Salute]

??  08:38

[视频: 0838210902175b0bd7e16284.mp4(请在附件中查看)]

王培  08:42

@林峰 缺乏自我意识？

lyx  08:44

我记得有限空间非完美信息非零和博弈的最优策略是不可计算的？

朱宗晓  08:48

@王培 别那么高大上[偷笑]找只鸡?试试

朱宗晓  08:49

观察一下，看能不能揣摩出?的心理活动[呲牙]

朱宗晓  08:50

@lyx ,不可计算是什么意思？

lyx  08:53

就是像停机问题

王培  09:00

@lyx 策略可穷举吗？“非完美信息”是概率吗？如都是，则可以算数学期望。

朱宗晓  09:00

@lyx 停机问题我是知道的，但不知道与我的问题有什么关联？

朱宗晓  09:01

@王培，我们的区别是高斯和洪堡式的，我真是太会抬举自己了[调皮]

??  09:01

@王培 只是它不知道镜子里的是自己 [憨笑]

朱宗晓  09:02

小孩子第一次也会这样吧

王培  09:06

@朱宗晓 对话场景不是经典意义下的博弈。如果要用博弈论，首先要明确定义评价函数。

lyx  09:06

一般非零和博弈要考虑混合策略就是randomized策略，从博弈论的观点来看。所以整个策略空间是不可穷举的

朱宗晓  09:07

@王培 ，我上次说，猜出对方下一句会说啥，算不？

王培  09:08

那一般不是对话的目的。

朱宗晓  09:08

咱们人是根据人生阅历和谈话进程来猜的

Shifa  09:09

镜子测试，有些鸟类能通过，大多数狗能通过，人类婴儿18个月前一般不能通过

王培  09:10

我们对话时的确要预估对方的反应，但这不是对话的唯一目的。我们不是为对话而对话。

朱宗晓  09:10

越聊猜中对方下一句要说啥的可能性越大

朱宗晓  09:10

但是聊天机器人可以以此为目的

朱宗晓  09:11

现在最好的聊天机器人，也不能长时间陪人类聊天

朱宗晓  09:11

除非是像我儿子这么大的小孩

王培  09:11

这就是我为什么不认为“聊天机器人”和智能有多大关系。抱歉。[调皮]

朱宗晓  09:12

猜中对方下一句要说啥，诱导对方接着说啥，这就是智能了

朱宗晓  09:12

现在不行不等于未来不行喔

朱宗晓  09:13

我可以先做一个提问机器人

朱宗晓  09:13

先抛出一个问题

朱宗晓  09:14

然后从对方的回答中，提取出下一个问题

王培  09:14

@朱宗晓 不是做得到做不到的问题。AI界对ELIZA效应已经有很多讨论了。

朱宗晓  09:18

“计算机科学中所谓伊莉莎效应，指的是人有一种趋向，在下意识中以为电脑行为与人脑行为相似。其实只是以简单的语言模式识别为基础的巧妙运用。从具体形式上看，伊莉莎效应指的是，‘人们阅读由计算机把词串成的符号序列，往往读出了这些符号并不具备的意义’。更一般地，伊莉莎效应描述这样一种情形，仅仅依据系统的输出，用户就把计算机系统理解为具有‘其控制（输出）软件完全不可能取得的内在素质和能力’，或者，‘以为（输出）反映了实际上不存在的更大的因果关系’。”

朱宗晓  09:19

以上百度

朱宗晓  09:19

其实，对于人的所谓智能也有类似的一个效应，可以叫做【反伊莉莎效应】（Anti-Eliza Effect），就是很多时候我们把人类的能力神话，忽视了其中 90% 以上的成分其实很水，情不自禁地把所谓脑力劳动归于人类独有的灵性。它实际上是同一个效应的另一面。

王培  09:19

如果只是以“长时间陪人类聊天”为目的，这是做得到的，也确实有市场，但这完全不是我所理解的智能。当然我们可以有不同看法。大概目前同意你的人起码在国内更多。

朱宗晓  09:25

根据小i老总的说法，聊天的话通常直到第四轮就进行不下去了

朱宗晓  09:25

这是他们之所以放弃聊天主攻客服的原因

朱宗晓  09:26

微软小冰主攻聊天，但也差强人意，所以弄了很多花活增强粘性

Shifa  09:34

聊天不过两个目的，一个是了解对方，一个是让对方了解自己。聊天机器人做不到了解人，人也很难通过聊天了解机器

朱宗晓  09:35

聊天机器人可以了解人啊

朱宗晓  09:35

通过聊天

朱宗晓  09:35

你说的每句话它都记得

朱宗晓  09:36

还可以分析出你的性格特征，脾气秉性，爱好特长

Shifa  09:36

记得不一定了解吧

Kel~\(≧▽≦)/~len  09:36

这不是真真的了解

Kel~\(≧▽≦)/~len  09:37

机器自己不能进一步作评价

Kel~\(≧▽≦)/~len  09:37

根据聊天的内容

陈  09:37

系统的“想”要存续和不“想”也存续 — 输入与存续的关联 — 基于存续的输入前馈选择 — 人工系统的存续（生命）设计及其与输入的关系 — 例如基于聊天时长的“维生”（评价）机制

朱宗晓  09:38

那是没有人做，这个评价很难吗？

Shifa  09:39

很难，涉及意识认知

陈  09:39

评价策略可以相互竞争产生

朱宗晓  09:40

我指根据对方说的话分析对方是一个什么样的人

陈  09:40

类似博弈中的评价函数

Shifa  09:40

要不自然语言处理就不是问题了

Shifa  09:41

理解一个人是终极AI

快乐健康  09:42

理解在数学上等于自我意识

陈  09:42

先简后难

朱宗晓  09:42

好吧，我们通过聊天内容，分析出他是九型性格中的哪一种

朱宗晓  09:43

这个容易点吧

陈  09:43

理解及在此基础上的共情，是一种拟真，简单做法就是初步原型分类

朱宗晓  09:43

我们可以设置聊天话题，设定提问

陈  09:44

但提高精度就很难

朱宗晓  09:45

做到云端情人那样是很难

陈  09:45

基于现有人类分类知识，不若基于淘汰机制产生的评价函数

朱宗晓  09:46

什么样的淘汰机制

朱宗晓  09:46

淘汰什么东西？

Shifa  09:47

性格分类用途不大，并且人性多变，很多人在家和在外完全是两个人

陈  09:49

类似于遗传算法，淘汰“不好”的评价函数和对话策略

刘伟  09:50

对，多情境多性格多意向多模型

刘伟  09:50

如何协调这些‘’多‘’是关键

陈  09:54

对话是逐步展开的，根据对话过程逐步归类，类型、情绪、倾向等

朱宗晓  09:54

那没关系，你想表现出什么样，就是什么样

刘伟  09:54

喜欢有时涉及想要，爱常常关涉给予，老熊说过：‘‘ 数学证明，原则上可以写成逻辑语句。但是如果真要怎样做，数学家就没法工作了。一句“显然”，恐怕就是很多页。所以人脑里面的某种东西在默默起作用。 ’’

朱宗晓  09:54

我们不指望通过一次谈话，了解你的全部人生

朱宗晓  09:56

有一本书叫做微动作，FBI用来审犯人的

朱宗晓  09:56

是不是我们给聊天机器人配个摄像头？

刘伟  09:57

也许有本反侦测的资料

Shifa  09:58

聊天，情境（我喜欢说场景）很重要，环境怎么样，刚经历过什么事，准备做什么事，等等

刘伟  09:59

有时还涉及非情境参与、渗透

Shifa  09:59

人一句话，“刚下班”，“明天要出差”，对方就明白8~9成了，而机器还摸不着头脑

刘伟  10:00

个性化常识与多数通识

Shifa  10:01

是的，相互不了解的人很难聊起来

刘伟  10:01

就像与机器人聊天一样

朱宗晓  10:01

所以不是机器人的问题

刘伟  10:02

还是机器人的问题吧

朱宗晓  10:02

是人善不善于聊天的问题

朱宗晓  10:02

人也要见人说人话，见鬼说鬼话

朱宗晓  10:03

见到机器人，当然要说机器人常说的话了

陈  10:03

......

刘伟  10:03

若把机器人当成鬼就没事了

朱宗晓  10:04

我们假设机器人有一个秘密

朱宗晓  10:04

这个秘密只能通过聊天来破解

刘伟  10:04

有部电影叫《太空旅客》，就是人机聊天

陈  10:04

人为何有激励去破解？

朱宗晓  10:04

破解这个秘密的人能够获得一亿美元的奖金

朱宗晓  10:05

大家会跟这个机器人怎么聊

刘伟  10:05

与钱多少关系恐怕不大

陈  10:06

西部世界 [微笑]

朱宗晓  10:06

这是个比方，现在是需求不大

朱宗晓  10:06

为什么我儿子能跟各种聊天机器人聊得津津有味呢

朱宗晓  10:07

因为他心里没有太多成见

刘伟  10:07

也许是和大人聊不到一块

朱宗晓  10:07

天真无邪，无欲，无求，所以快乐

刘伟  10:08

他也许可以产生更多地虚构

刘伟  10:08

有趣的虚构

朱宗晓  10:08

那就不知道了，我觉得文字本身就有魅力

朱宗晓  10:09

尤其是不像正常人说出的文字

刘伟  10:09

他也许对图画更感兴趣

朱宗晓  10:09

是一种不期而遇的惊喜

朱宗晓  10:10

而成年人往往加上了价值判断

刘伟  10:10

现在搞图像识别的正在与搞自然语言处理慢慢会师

朱宗晓  10:10

@刘伟 ，是的，他也喜欢发各种表情

朱宗晓  10:11

这都成了小孩间的例行仪式了，表情对战

朱宗晓  10:11

大人很难理解和参与并乐在其中

刘伟  10:11

他们不喜欢文字的迷糊和复杂吧

刘伟  10:12

从小都是从看图识字开始的

朱宗晓  10:15

其实我也喜欢发表情，一副图画胜过一千个文字

朱宗晓  10:15

只是能准确表意的表情很少

刘伟  10:18

看图可以自由想象，如读好诗歌一样

朱宗晓  10:19

那文字的想象空间更大

刘伟  10:20

小孩的画、大人的字都可以自主弥聚虚构伸缩自如

朱宗晓  10:20

张潮的《幽梦影》中的诗句：
所谓美人者以花为貌，以鸟为声，以月为神，以柳为态，以玉为骨，以冰雪为肤，以秋水为姿，以诗词为心，吾无间然矣。

朱宗晓  10:21

我敢说每个人想到的美人都不一样

刘伟  10:22

小孩很难以此作为基础展开

朱宗晓  10:23

外国人也不行啊，即使翻译过去

朱宗晓  10:24

所以我还是觉得不是机器人的问题，人自己聊天就有问题

朱宗晓  10:24

我巴巴的跟你聊，和我拽拽的跟你聊，结果是不一样的

朱宗晓  10:25

大家就把聊天机器人当作那个很拽的人好了

刘伟  10:25

如同作家写作一般，精神严重分裂

朱宗晓  10:26

我是打算给聊天机器人引入一个主动写作软件

朱宗晓  10:26

还没谈拢

刘伟  10:26

还是先让机器人学会自言自语的比较好

朱宗晓  10:26

主动性，这个算是智能吧

朱宗晓  10:27

可以两个机器人对聊，建立谈话质量的评分标准

刘伟  10:27

和阿尔法狗一样左右手先练着

朱宗晓  10:28

关键这个评价体系不好建立

刘伟  10:28

人不在环

朱宗晓  10:28

人可以在外围打分

朱宗晓  10:29

让两个机器人聊慢点

朱宗晓  10:29

人看着打分

刘伟  10:29

先自学成才，再拜师学艺

刘伟  10:30

最后华山论剑，出没江湖

朱宗晓  10:31

[呲牙]路还长着呢

刘伟  10:32

像一站到底这种一问一答知识搜索的问题，人很难赢机器人，题目一出来几乎没有任何延迟答案就搜出来了。
可以尝试打造一款逻辑推理“自然语言理解”的机器人吧，看看机器人能不能在面对不确定环境下能准确理解问题并给出答案，选一种应用场景来研究其算法。

刘伟  10:33

或可以看图识境的机器人

朱宗晓  10:34

限定聊天所能使用的语句

朱宗晓  10:34

比方说英语九百句

朱宗晓  10:35

但是可以有不同的序列组合，上下文关系

朱宗晓  10:35

看能不能合情合理的聊下去

刘伟  10:35

还比如简单的刑事案件情境识别

朱宗晓  10:36

做个福尔摩斯的平行人？

朱宗晓  10:36

现在可以做柯南的

朱宗晓  10:37

这个对细节要求太高了吧

刘伟  10:38

简单的即可

刘伟  10:40

或根据一幅简单的图产生各种有依据的表述，在后期剪枝

朱宗晓  10:41

这不是李飞飞在做的吗，google相册也在做

刘伟  10:42

各有各的方法

刘伟  10:44

人产生意向性的源因也各不相同

朱宗晓  10:45

那就难了，李飞飞她们还是基于人工标定，监督学习的

刘伟  10:46

也可加上伪装或假意，产生欺骗诱导[呲牙]

朱宗晓  10:46

这倒是提供了一个目标

刘伟  10:46

她们的途径也只是尝试，通不通也不好说

刘伟  10:51

人的识别都是标定性的吗？还是半标定性识别？或是非标定性识别？抑或混合性识别？