[BACK]Return to ECHO_language.py CVS log [TXT] [DIR] Up to [Repository] / ECHO_content

Diff for /ECHO_content/ECHO_language.py between versions 1.4 and 1.8

version 1.4, 2006/09/10 11:03:07 version 1.8, 2006/10/11 16:55:26
Line 1 Line 1
 """Methoden fuer Language Technologies"""  """Methoden fuer Language Technologies"""
   
   from Products.PageTemplates.PageTemplateFile import PageTemplateFile
 from Products.ECHO_content.analyseAndTag.analyseAndTag import DonatusFile  from Products.ECHO_content.analyseAndTag.analyseAndTag import DonatusFile
   from OFS.SimpleItem import SimpleItem
   from OFS.Folder import Folder
 import xml.parsers  import xml.parsers
   import os.path
   from Globals import package_home
   
   class ECHO_language:
           """language methods"""
   
 def donatus(txt2):  
         import xmlrpclib  
   
         server = xmlrpclib.ServerProxy("http://archimedes.fas.harvard.edu/cgi-bin/donatus-rpc")          def tagLex(self,nr="1",id=None):
               """gerateword tags"""
               
              
               df=DonatusFile(txt=self.getPage(_pn=nr,_id=id),baseUri=self.baseUri)
              
               return df.convertedXML()
               #return DonatusFile(txt=self.getPage(_pn=nr)).convertedXML()
   
         txt=txt2.encode('utf-8')  class Collection(SimpleItem):
         bin=xmlrpclib.Binary(txt)  
   
            def __init__(self,id):
                """initialise"""
                self.id=id
                self.entries=[]
                   
   
         ret=server.donatus.analyze(bin)           def getEntries(self):
                """get the entries"""
                entries=self.entries
   
                for entry in entries: #backward compatibility, cannot be removed a.s.a.p.
                    print entry
                    if entry.has_key('master') and (len(entry['master'])<3):
                        entry['master']=(entry['master'][0],entry['master'][1],'')
                    if entry.has_key('slave') and (len(entry['slave'])<3):
                        entry['slave']=(entry['slave'][0],entry['slave'][1],'')
                                   
         return ret['morphData'].data               return self.entries
   
            def deleteEntry(self,nr):
                """delete an entry"""
                del(self.entries[nr])
   
 def donatusVariant2Lemma(morphData):               
         """creates hash variant -> morphdata"""           def appendEntry(self,fn,id,type,pagelink):
         ret={}               """append an entry"""
         dom=xml.dom.minidom.parseString(morphData)               #check if last entry is complete
         lemmas=dom.getElementsByTagName('lemma')               createNew=False
         for lemma in lemmas:              
                 variants=lemma.getElementsByTagName('variant')               if len(self.entries)==0: #noch gar kein Eintrag
                 for variant in variants:                   createNew=True
                         atr=variant.getAttribute('form')  
                         if ret.has_key(atr):  
                                 ret[atr].append=lemma.getAttribute('form')  
                         else:                          else:
                                 ret[atr]=[lemma.getAttribute('form')]                   entry=self.entries[-1]
                    if entry.get('master',None) and entry.get('slave',None):
                        createNew=True
                if createNew:
   
         return ret                   self.entries.append({})
                    entry=self.entries[-1]
                if type=="master":
                    entry['master']=(fn,id,pagelink)
                elif type=="slave":
                    entry['slave']=(fn,id,pagelink)
   
 class ECHO_language:               entries=self.entries[0:]
         """language methods"""               entries[-1]=entry 
                self.entries=entries[0:]
                   
         def donatusVariant2Lemma(self,nr='1'):  class ECHO_linkCreator(Folder):
                 """analyze by donatus"""       """creator for links"""
                 return donatusVariant2Lemma(donatus(self.lemmatize(nr)))  
   
        meta_type="ECHO_linkCreator"
                   
         def tagLex(self,nr="1"):  
             """gerateLinks"""  
             txt=self.getPage(_pn=nr)  
                         
             df=DonatusFile(txt=self.getPage(_pn=nr))  
                         
             return df.wordsToLinks()  
             #return DonatusFile(txt=self.getPage(_pn=nr)).convertedXML()  
                   
         def tagLex_old(self,nr="1"):       def getCollectionEntries(self,collection):
                 """generate Links"""           col=getattr(self,collection,None)
                 global retLex           if not col:
                 global toggle               return []
          
                 toggle=0           return col.getEntries()
                 retLex=""       
            
                 lemmatized=self.lemmatize(nr)[0:]       def index_html(self,collection=None):
                 #print "ho",repr(lemmatized)           """show create links"""
                 variants=donatusVariant2Lemma(donatus(lemmatized))           if not collection:
                                return "no collection: need parameter collection=COLLECTION_NAME"
                 def createTag(name,attrs):           
                         global toggle                
                                    pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','ECHO_linkCreator_main')).__of__(self)
                         if name=="w":           
                                 toggle=1           col=getattr(self,collection,None)
                                 return ""           if not col:
                         else:               return []
                                 tag="<"         
                                 tag+=name           masterUrl=getattr(col,'masterUrl','')
                                 for attr in attrs.keys():           slaveUrl=getattr(col,'slaveUrl','')
                                         tag+=""" %s="%s" """%(attr,attrs[attr])           
                                 tag+=">"           return pt(collection=collection,masterUrl=masterUrl,slaveUrl=slaveUrl)
                         return tag       
                                        def addEntry(self,collection,fn,id,type,pagelink,fromurl=None,RESPONSE=None,REQUEST=None):
                 def createData(data):           """add an entry"""
                         global toggle          
                         astring="""<a href="http://141.14.236.86/cgi-bin/toc/dict?step=remotetable;word=%s;lang=de" target="_blank">%s</a> """           col=getattr(self, collection,None)
                         if toggle: # tag war ein w           if not col:
                                 toggle=0               self._setObject(collection,Collection(collection))
                                 if variants.has_key(data):               col=getattr(self, collection)
                                         return astring%(variants[data][0],data)           
                                 else:           col.appendEntry(fn,id,type,pagelink)
                                         return astring%(data,data)           
            if fromurl and RESPONSE:
        
                RESPONSE.setHeader("Expires",(DateTime()-1).rfc822())
                RESPONSE.setHeader("Cache-Control", "no-cache")
                RESPONSE.redirect(fromurl)
       
        def removeEntry(self,collection,nr,RESPONSE=None):
            """remove an entry"""
            col=getattr(self, collection,None)
            col.deleteEntry(nr)
            
            if RESPONSE:
                RESPONSE.redirect(self.absolute_url()+"?collection="+collection)
            
        def setUrls(self,collection,masterUrl,slaveUrl,RESPONSE=None):
            """set the urls for the document viewer"""
            col=getattr(self, collection,None)
            setattr(col,'masterUrl',masterUrl)
            setattr(col,'slaveUrl',slaveUrl)
            
            if RESPONSE:
                RESPONSE.redirect(self.absolute_url()+"?collection="+collection)
                                                                   
                                                                                   
            #self.index_html(collection)
   
                 # 3 handler functions  def manage_addECHO_linkCreatorForm(self,RESPONSE=None):
                 def start_element(name, attrs):      """Form for adding"""
                         global retLex      manage_addECHO_linkCreator(self,RESPONSE)
                                                   
                         retLex+=createTag(name,attrs)  def manage_addECHO_linkCreator(self,RESPONSE=None):
                 def end_element(name):      """Add an ECHO_main"""
                         global retLex      id='linkCreator'
                         if not name=="w":      self._setObject(id,ECHO_linkCreator(id))
                                 retLex+="</%s>"%(name.encode('utf-8'))  
                                                   
                                           
                 def char_data(data):      if RESPONSE is not None:
                         global retLex          RESPONSE.redirect('manage_main')      
                         if data:  
                                 try:  
                                         retLex+=createData(data)  
                                 except:  
                                         """no"""  
                                                                                   
                 p = xml.parsers.expat.ParserCreate()  
   
                 p.StartElementHandler = start_element  
                 p.EndElementHandler = end_element  
                 p.CharacterDataHandler = char_data  
                                   
                 p.Parse(lemmatized.encode('utf-8'),1)  
                 #print repr(lemmatized.encode('utf-8'))  
                   
                 return retLex  
                   
                                   
         def lemmatize(self,nr='1',lang="de"):  
                 """lemmatize"""  
                 global ret  
                 ret=""  
                                   
                 def createTag(name,attrs):  
                         tag="<"  
                         tag+=name  
                         for attr in attrs.keys():  
                                 tag+=""" %s="%s" """%(attr,attrs[attr])  
                         tag+=">"  
                         return tag  
                                                                   
                 def insertW(str):  
                     splitted=str.split()  
                     wordlist=["<w>%s</w>"%split for split in splitted]  
                     return "\n".join(wordlist)  
   
                 # 3 handler functions  
                 def start_element(name, attrs):  
                         global ret  
                         ret+=createTag(name,attrs)  
                 def end_element(name):  
                         global ret  
                         ret+="</%s>"%(name.encode('utf-8'))  
                                           
                 def char_data(data):  
                         global ret  
                         ret+=insertW(data)  
   
                 p = xml.parsers.expat.ParserCreate()  
   
                 p.StartElementHandler = start_element  
                 p.EndElementHandler = end_element  
                 p.CharacterDataHandler = char_data  
   
                 p.Parse(self.getPage(nr), 1)  
                 txt="""<wtag locator="xxx">  
                 <section lang="%s"><s>%s</s></section>  
                 </wtag>"""  
                 ret=txt%(lang,ret)  
                                   
                 return ret  
Removed from v.1.4  
changed lines
  Added in v.1.8

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>