关于科幻电影《机械姬》带来的哲思

自闭乐

有什么哲思这点不是由我来说的，看了没哲思也别来找我。
这边是百度介绍，戏源自己找。
http://baike.baidu.com/link?url= ... QV0j1a507P0waOODwCu

大概里面说的是人工智能能否产生自我意识，也可以说这部电影提供了一种给人们反思何谓自我意识的角度。



@谷成
特别推荐你看，不过。
这是我以你有过创造故事这类经验的过往才这样想的，那种我自以为你也应该会有过的想法：
由自己所创造的故事人物，能或会有自我意识吗？
假如它没有，可以想方设法让它有自我意识吗？
假如它有，有什么方法检验它有？

上面的想法都是我一般上搞创作时都在想着的，就算我没有高科技的人工智能编写技术/设备；也不妨碍我这样思考。
毕竟基本原理是相关的。（好啦虽然这么说，这边说的相关也只是我隐约上觉得是而已）


#根本没意愿探讨这方面的就别来歪楼了。
   版主，觉得与版规不合格的话就直接删，不用问过我。

自闭乐

其中戏里面有提到着名的图灵测试。
男主角测试机器人的人工智能有否自我意志时有着这样的思考倾向。
如果AI回答得很完美，准确，那只是证明了回答的只是机器AI。
回答的答案，有公式化的痕迹吗？
机器AI能创造出非公式的回答吗？

自闭乐

好啦，作为一个精神病（至少有点接近了）
我多多少少总有过很多次的【概视感】，这很容易引导我去思考。
我是否一直在重覆。


就比如我发觉新近看到的深刻印象画面，其实我有过观看的记忆。
就：这个画面很熟悉，我看过？
思考：啊，是几年前的记忆了。
可是这可是【新近】的。


我会不会其实只是没有自我意志的AI，一切的记忆，思考其实是被【输入】的。
所以我才会对新近的体验有记忆（就算记忆显得不确实）。
他人呢？
他们是否只是AI？



这养成我一直观察他人的习惯。
他人的表达，表现。
跟我上面提到的机器AI有否相似点呢？

回答的答案，有公式化的痕迹吗？
机器AI能创造出非公式的回答吗？



我只能说，多年的观察，加深了我的怀疑。
我不是说大家（包括我）是机器人，我不是这种意思。
我是说，作为神（或者外星人？）的创造物，我是否其实只是跟机器AI相类似的存在而已？



从我有意识开始思考以来，我一直觉得只要不过分。（比如说搞到自己进精神病院）
像这样地思考，可以扩展自己思考的深度，高度，和广度。


#一般人可以的话，就别深思这类事。
因为这不重要，
真的，这不重要。

谷成

自闭乐 发表于 17-5-2015 09:48 PM
其中戏里面有提到着名的图灵测试。
男主角测试机器人的人工智能有否自我意志时有着这样的思考倾向。
如果 ...

你这个问题，再放大一点就不仅是人工意识的问题，而是牵涉到所谓生命的问题，例如佛教千年以来所探索的心意识的问题（只是佛教的探索是透过禅修而非哲学辩论）。

人类至今为止最大的两个哲学问题：其一就是什么是意识？其二就是什么是生命？这两个问题看起来是一不是二，实际上，也可以是二不是一，其中存有很多的错综交集的地方。

时至今天，人类对生命和意识的了解还是一个不完整的、模糊的概念，人们还不能给予它一个确切的定义。

以下我很简单的举出几个例子：

1.会思考就等于有意识？

2.不会思考就等于没有意识？

3.会思考的电脑，跟会思考的人类相同吗？如果相同，会思考的人工意识算不算有生命？

4.不会思考的植物，就等于没有意识吗？

5.但是不会思考的植物有生命，请问有生命的未必需要要有意识吗？

6.到底生命跟意识是什么关系？

这些问题，每一道都会衍生出更多问题。科学家不见得比宗教界知道得更多，所以属于跨越领域的哲学问题。目前为止科学还无法解答这个问题，也无法跟宗教禅修的人对话。所以谈论这个问题，恐怕也是是非多过交流。只是局限在科学的层面来谈是谈不出什么结果的。要是引进宗教禅修的内容进来谈论，没有禅修的经验更是谈无可谈（宗教戒律也不适合谈）。更何况这里有很多反宗教份子，等着抓佛教徒来开刀。所以我循你这位旧朋友的问题而来，只是礼节上进来寒暄几句。

大家如有兴致的话，可以考虑上述的几个命题来甲流讨论，但是我不适合参与。

谢谢你。

guilimen

自闭乐 发表于 17-5-2015 09:48 PM
其中戏里面有提到着名的图灵测试。
男主角测试机器人的人工智能有否自我意志时有着这样的思考倾向。
如果 ...

如果AI回答得很完美，准确，那只是证明了回答的只是机器AI。
回答的答案，有公式化的痕迹吗？
机器AI能创造出非公式的回答吗？

AI 是Artificial Intelligence 人工智慧 ,
其實就是Artificial Key-in Knowledge 人工輸入的知識.

如果20年後 ,機器人統治了全人類 ,也不可以說它們擁有"智慧".

就算機器人可以製造新的機器人 ,也還是"人工知識".

到時 ,人類變成奴隸 ,那是肯定的.

自闭乐

研究
观察AI的痕迹和启发对象产生自我意志
这两种习惯不断的完善我的思考和创作。


所以一般来说，我会很刻意地去避免说明性的行为（因为说明跟输入真的太相似啦）
感觉自己不但会一直找不到拥有自我意志的对象，还一直在抹杀对象产生自我意志的可能性。
可是，现实来说。
人们都很热衷于说明，太习惯说明了；
启发式的行为，感觉很破坏他们的AI那样。
毕竟，没被输入过的反应，他们根本反应不出来。


这是很没趣的，看得太多没法反应过来的对象；这让我深感启发只是反过来让我辛苦的行为。
启发，什么都得不到。
说明，会得到一片赞许。


“是，哦，对，没错，我也是这样想的。”
这是我一般上和人交谈时常得到的反应。
可是上面反应的回答其实要深究的话，都只是nothing。
除了我的话外，一点从对方处引出的都没有。
这不是我要的启发结果，我要的，我所期望得到的是----灵魂。
那种无论是恶魔，或者天使都追求的，
像神一般（或接近神）存在的概念。

#这里不是指神能，或者说神格比较适合，如果要区别AI和自我意志的差别。

rufus

犹如某宗教所谓，神创造人，
给了人自由的意志 。
人如果能赋予机器生命意识；
对于机器而言，人就是神。
机器也将面对是否有无神人存在的问题…

burntan

guilimen 发表于 17-5-2015 10:26 PM
如果AI回答得很完美，准确，那只是证明了回答的只是机器AI。
回答的答案，有公式化的痕迹吗 ...

以前的 A.I. 可能正如你所说的是 Artificial Key-in Intelligent， 但是现在的 A.I. 已经不是那个模式了。现在的科学家了解到人类的智慧其实是来自大量的知识，而不是完美的逻辑或算则法（algorithm)。所以新一代的人工智慧也是依赖一种称为“深层学习”（deep learning)的方式进行，让机械自己凭大量的数据自己学习，机械不再需要编程师告诉他们如何想，如何判断。当然这个技术还没成熟到制造一个真正的人工智慧，但是目前这种技术用在让电脑辨识图片，影片以达到人工视觉的效果非常成功，Google 的无人驾驶车也是以同样技术让电脑学习看路线与路牌，技术相当成熟。

所以以后的人工智慧未必就是人的智慧，正如老师教出来的学生未必就是另一个老师。

句子Sentence

谷成 发表于 17-5-2015 10:24 PM
你这个问题，再放大一点就不仅是人工意识的问题，而是牵涉到所谓生命的问题，例如佛教千年以来所探索的心 ...

个人认为，生命不等同有意识。
生命的定义在于会生老病死，
可以是有意识，也可以是无意识。
思考是有意识的表象之一，而不是意识的全部。

因此，论意识可以不牵涉到生命。

自闭乐

话说最近工作天，我就不回复了。
不过这部真的是好戏，不看吗？

句子Sentence

自闭乐 发表于 19-5-2015 09:46 PM
话说最近工作天，我就不回复了。
不过这部真的是好戏，不看吗？

楼主好人，请分享片源

自闭乐

我跟我朋友交谈这部戏所想到的
昨晚我的朋友看了我推荐他看的这套【机械姬】后，告诉我感想。（这部戏是我星期天网聚时传给他的，我自己是拜六晚看的）
他：整部戏都在讲女人欺骗处男 《《《《我表情直接囧了
我：没有其它的了？
他：你还想要我想些什么？你说给我听下。。
我：你看了后，如果联想不到我所期望你所能联想到的，那只证明了那其实并不重要。。。
可是他后来一直烦我，所以我就给了他看我这个楼。



他看了后，跟我表达很多东西。。。很多。
我立刻喊停：别整理这些给我看。
我怎么表达我这句话的意思呢？
就，他发了很多关于自由意志的内容。。
可是，他就想不到么，这些我当然也是想得到的啊。。囧（也太过基本了，百度/维基/谷歌都很多）


这个步骤在学术上感觉满重要的？基本上读得高的人都很爱这套。
问题是大家都体会过吧？
重覆对方知道的内容，有时只是在浪费时间，只是在做无用功的事。
如果我连这些基本都（没心）不知道的话，跟我这么没心学习的人重覆这些也只是浪费时间。
也就是说对于有心（学习）的人，不用把基本搬来搬去。（如果对方没有基本资料却有心知道，他会自己去找）（搜索有难度的，我才考虑给予帮助）
#庄子说的上士和下士闻道的差异性，我可是很跟从的。
然后我使用【整理】，这表示他很乱，乱就自己先整理后才发，别给我在整理着的感觉啊《《《如果是有人评分的话很糟糕啊。。。囧
想想自己为何只拿得出基本的资料，而拿不出【其余】的；拿不出也没关系，不用紧张。（毕竟我不认为有多少人能拿得出）



然后我岔开话题了，我说其实重点不在自由意志。
这部戏精锐在于男女主角的对话上。
他们每句对白都有经过理性程序处理过，对于人际上的各种类型的【对话】（就看起来很单纯可是实际从来不单纯的对话这个部分）的研究，是很有价值的。
对于我朋友，我是这样说的：
如果你能像男主角般每句话都想过才说，并且预知对方的反应兼推理对方这么说的原因理由。
至少你也不至于一直被女人牵着走啊。
#我说重点不在自由意志，当然只是一种话术，毕竟他联想不到，而察觉自己联想不到有可能会造成以后联想时的压力。
所以我尝试在他没注意到的时候淡化，把他的注意力转移回他擅长的部分。
既然我启发不了他，那么等以后的【某个人】在某个时机来启发他吧。


对，我的立场是这样的。
如果我给了某些提示，而对方想不到。那代表时机未到，或者我不是启发那个人。
而不是我会将那些对方联想不到的东西塞进对方脑里。
那一点价值都没有，对方以后学到的只是某种伪装，只是些形式；可是形式里面nothing。



but，人们貌似把【知识就是知道的人告诉不知道的人】这件事看得很理所当然般的。。。
没有那个能力的人，去记住（跟知道有差异）超越自己能力的事。
造成的最直接结果就是看起来更蠢，虽然自我感觉很良好。
别人问起那个，就把那个完整不改地完全搬回出来（从脑海里，but这种事有SD卡了）。
把自己搞成一个单纯的资料储存器（资料处理的部分哪去了），何必呢？
先救自己，不然谈何救别人？

自闭乐

句子Sentence 发表于 19-5-2015 11:19 PM
楼主好人，请分享片源

庄子关于上士闻道的那段古文你懂的吧，我就不多说了。
还有，我不支持盗版的，我没有支持盗版，没有喔。（不要害我）

自闭乐

谷成 发表于 17-5-2015 10:24 PM
你这个问题，再放大一点就不仅是人工意识的问题，而是牵涉到所谓生命的问题，例如佛教千年以来所探索的心 ...

首先很感谢你来捧场，最近这边危机处处，你出入要小心。（总有点害你的感觉，真的很过意不去）
然后其实你给的这些方向少了点，就是什么是思考，怎样才是思考。



如果说我们（别生气）都只是机器AI，或者应该用npc来代入。
我们很明显是有生命，有意识的。
but，如果我们自命的自我意志不过是写得特别好的AI，那么怎办？
（戏里面的主角后来有这样的迷茫，他甚至割开自己的手臂。看看有否自己被制造的痕迹）
生命，意识似乎不是AI能否思考的必要条件。


没有逼你回复的意思，让你看看我的想法而已。

自闭乐

guilimen 发表于 17-5-2015 10:26 PM
如果AI回答得很完美，准确，那只是证明了回答的只是机器AI。
回答的答案，有公式化的痕迹吗 ...

话说门主觉得现代人的表现会很AI吗？

我几乎没办法找出人们思考的痕迹，他们表达出来的都是早被他人处理过了的知识。（其实也就跟被输入的知识差别不大了）
自己思考出来的再渣，也是自己的啊。
别人处理过的再完美，也是别人的啊。

自闭乐

burntan 发表于 19-5-2015 11:15 AM
以前的 A.I. 可能正如你所说的是 Artificial Key-in Intelligent， 但是现在的 A.I. 已经不是那个模式了 ...

其实没有的，怎么能创造呢？
我经常会思考，假如在那个时代没有牛顿，其他人能构思出万有引力，牛顿光学吗？
代入现在的话题就是，现在世上还没有的东西（或概念），机器AI怎样创造出来。
对我来说，这是名副其实的有思考能力的人都不一定想得出的啊。

是的，对我来说，牛顿的万有引力，牛顿光学是一种创造。
机械AI能创造吗？

谷成

自闭乐 发表于 23-5-2015 12:16 AM
首先很感谢你来捧场，最近这边危机处处，你出入要小心。（总有点害你的感觉，真的很过意不去）
然后其实 ...

首先很感谢你来捧场，最近这边危机处处，你出入要小心。（总有点害你的感觉，真的很过意不去）

既然你点名了，我就多少贡献点愚见，不是严谨的想法纯粹乱说，所以不要见笑了。

然后其实你给的这些方向少了点，就是什么是思考，怎样才是思考。

思考和意识是不能分开的，是意识促成思考，思考又进而给意识增加一些内容。之前在另一帖提到意识有四个层面，表意识、潜意识、深意识、超意识。后三者都会影响思考。可是当我们谈到人工智能得时候，我们经常只是触及表意识的那方面，而没有囊括其他三个层面的范围。这样的定义有没意识，是否精确仍然值得怀疑。当然我对那个图灵测验没有深入的了解，所以我并没有真正的资格来发表这个谈论。但是我想表达的是意识比我们想象的表意识思考要复杂得多了，即使有一天真有那么一个人工意识通过了图灵测试，是否就等于具备了真正的自主思考，这点我还是存有怀疑的。我怀疑的是这个人工意识是否也能发展出潜意识、深层意识甚至超意识那些更为复杂的思维模式，如果不能，那么人工意识跟人类的意识高度，还是存有相当的差距，而不能等同，即便他的计算和分析能力超越人类，也不能和人类的意识处于相同的水平。

如果说我们（别生气）都只是机器AI，或者应该用npc来代入。
我们很明显是有生命，有意识的。
but，如果我们自命的自我意志不过是写得特别好的AI，那么怎办？ 生命，意识似乎不是AI能否思考的必要条件。

我们人类的确在某种程度上，只是一具会思考的机械而已。你看很多人的生活，根本跟机械人没有什么差距。就比如有些受到催眠师的暗示，而不自主的去做一些事情，却以为是自主选择或思考一样。我们的现实生活就是受到大量暗示（植入式程序）而被趋使去追求某种被预设的目标。我们追求财富，追求权力，追求物欲享受，我们很多时候都是为了社会共同投射出来的目标而去生活，仿佛我们不去追求某些目标，就会变成很不正常的样子，所以每个人都尝试变得更正常，所以心理和行为变得更可以被预测。国家的教育就是为这样的目标而编排的，让我们变成符合雇主期望的员工，政府期待的愚民。但是我们很明显的是有生命的，有意识的。这就回到你的问题了。

到底有什么会让我们变得和人工智慧不同？这个问题非常值得思考。人类往往在知道应该做什么时，然而选择去做出疯狂和相反的决定。人类的优点往往基于他的缺点。这个纯粹思考的机器是不同的，纯粹思考的机器是为了达到某个目标，这个目标是预设的，所有思考都是为了达到这个主目标而形成，例如生存，所以这样会思考的人工意识非常可怕。但是人类往往为了很傻的理由去做“正确”的事情，牺牲自己去救别人。譬如你说的电影中的男主角不就为了这个人工意识而去做了一件蠢事，而最后这个人工意识对他却一点感激也没有。

所以人工意识不懂的什么是爱，不懂得什么叫感激或感恩。他可以被设定得似乎表现得懂得爱或感激的样子，但是在遇到跟主要目标产生冲突的时候，真正的选择顺序就会显现了，一切只是为服膺主要目标而已，其他都是次要的。所以从这个意识上，我们很多人也是过着类似人工意识的生活，真正的拥有自觉的人类还是相对稀少的，即便他们拥有一个人类的肉躯。但是即便人类糊涂了大半辈子，他的良善的本能还是可以得到某种因缘的刺激而复原，这个能力可能被压抑着但是不等于不存在。所以有些人说人类跟会思考的机械有个差别就是人类有“灵魂”。

我所谓的这个灵魂是形容某种自觉而生的良知，例如我们说的conscience。这个良知必须是自主产生而不是经过植入的，如果一个人工意识表现得非常有良知，可以为别人牺牲，但是由于这个是被输入的主目标而决定，那么这个良知就不是真正意识的良知。所以我觉得有一点可能没有被电影中考虑到的是，他们应该测试人工意识在面对和主目标冲突时会采取的选择来分析，我相信人工意识将会一面倒的服膺于植入的主目标，而人类则是每个都不同的——即便大家都有相同的主目标（就是生存下去），但是大家在临急时采取的选择则是不尽相同，再自私的人也可能为了救孩子而牺牲了自己的性命，这些可能是在灵光一刹中决定的，甚至没有经过任何思考而言。

所以我们人类虽然很多时候表现得很象人工意识，但是不同于人工意识。我们受到制约和暗示，但不是所有的时候，这些制约和暗示是一定会见效。人类会因为自己怕死而想到去救别人，这种从自己的危难而衍生到对别人的同理心，并不是人工意识可以培养出来的品质。我们时常都在表现这种意识，即便我们没有太认真的去觉察它的产生及来源，这种感受都是直觉性质而非经过慎密的思考。

没有逼你回复的意思，让你看看我的想法而已。

我也没有迫你接受这个观点的意思，只是胡乱涂写并交差而已，希望可以勉强的及格。谢谢。

guilimen

自闭乐 发表于 23-5-2015 12:25 AM
话说门主觉得现代人的表现会很AI吗？

我几乎没办法找出人们思考的痕迹，他们表达出来的都是早被他人处 ...

佛陀也學過各門各派的學說 ,

佛教門徒說他是靠自己天生的領悟力而成道 ,騙鬼!!!

句子Sentence

自闭乐 发表于 23-5-2015 12:02 AM
庄子关于上士闻道的那段古文你懂的吧，我就不多说了。
还有，我不支持盗版的，我没有支持盗版，没有喔。 ...

据我所知，上士闻道是出自老子的道德经，而和庄子无关。
马来西亚人总是太喜欢推崇庄子，哀哉，哈哈。
再说，真哲那类人就是倾向你应该完整地提供所有资料，
否则就会理所当然地对你进行严厉批判。

其实人工智能能否产生自我意识，
就基于意识的定义，你认为怎样才算是有意识？意识由什么构成？

king2000

如果一只狼披着羊皮，外表完全像羊，声音表情动作完全模仿羊，根本看不出来是狼。

然后把它放进羊群里一起吃草一起生活，所有羊只都认不出来它是狼。换个角度说，这只狼通过了羊群的“图灵测试”。根据“图灵测试”，只要羊群无法分辨出它不是羊，那它就是羊……而事实上它只是一只完美模仿的狼。

但是重点是这不重要，
真的，这不重要。