开启聊天机器人模式

    理想的 chatbot 什么样            现在的 bot 什么样            
    ｜处理任务                      ｜聊天－搞笑                


    ［涉及到下面三个主要问题 & 解决方案 ］
        1、response generation(selection)－－对话生成是最后一个步骤，是输出的部分        

            四种solutions        
                    solution 1 直接根据context来生成对话            
                              ｜seq2seq+attention        

                    solution 2 一个next utterance selection的问题            

                    solution 3 rule-based或者说template-based，response的最终形式其实是填充了一个模板而成的            

                    solution 4 query-based或者说example-based，response是来自于一个叫做知识库的数据库            


        2、dialog state tracking(DST)－－是bot的核心，它的作用在于理解或者捕捉user intention或者goal        

                    会给定一个state的范围，通过context来predict用户属于哪个state            

        3、user modeling－－更重要的是用户的history conversations            


    ［模型训练环节］                            
    语料                            
        一般都是来自社交网站                        

    模型                            
        细分的方向非常的多                        

            seq2seq+attention                    


            user modeling模型                    
                    将user identity（比如背景信息、用户画像，年龄等信息）考虑到model中，构建出一个个性化的seq2seq模型，为不同的user，以及同一个user对不同的请将中生成不同风格的response            


            reinforcement learning模型                    
                    deepmind公司将增强学习重新带回了舞台上面，结合着深度学习来解决一些更难的问题            


            task-oriented seq2seq模型                    
                    是尝试在bot的个别部件上采用深度学习的技术来做，并且给出了切实可行的方案            


            Knowledge Sources based模型                
                    针对具体的任务，在seq2seq的基础上增加一个相关的knowledge sources会让效果好很多            
                    将bot任务定义为next utterance classification，有一点像question answering任务                        
                    knowledge graph            
                    rnn encoder            

            context sensitive模型                            
                    history information的建模            


思考                                
    1、要不要做bot？                            
        虽然不容易，但却非常有意义                        

    2、open domain还是task-oriented？                            
        task-oriented更加具体，更加实用                        

    3、task-oriented bot为什么难，该朝哪个方向来发力？                            
        将end-to-end应用在局部，而非整体上，配合上Information Extraction和Knowledge Graph等技术，实现一个高可用的框架体系，这个应该是task-oriented bot的发展方向                        

    4、response的生成应该与哪些因素有关呢？                            
        （1）user query，用户的提问                        
        （2）user modeling，对用户进行建模                        
        （3）knowledge，外部知识源

    聊天机器人在各种场景下的功能和产品                            

    系统框架                            
        自然语言理解                        
            聊天机器人系统中的自然语言理解功能包括用户意图识别、用户情感识别、指代消解、省略恢复、回复确认及拒识判断等技术。                    
        对话管理                        
            对话管理功能中涉及到的关键技术主要有对话行为识别、对话状态识别、对话策略学习及对话奖励等                    
        自然语言生成                        
            在聊天机器人系统上的对话生成主要涉及检索式和生成式两类技术    

    挑战                            
        1）对话上下文建模                        
        2）对话过程中的知识表示                        
        3）对话策略学习                        
        4）聊天机器人智能程度的评价                        

    展望                            
        1）端到端                        
        2）从特定域到开放域                        
        3）更加关注“情商”