[BACK]Return to ECHO_language.py CVS log [TXT] [DIR] Up to [Repository] / ECHO_content

Diff for /ECHO_content/ECHO_language.py between versions 1.4 and 1.10

version 1.4, 2006/09/10 11:03:07 version 1.10, 2006/10/18 14:42:33
Line 1 Line 1
 """Methoden fuer Language Technologies"""  """Methoden fuer Language Technologies"""
   
   from Products.PageTemplates.PageTemplateFile import PageTemplateFile
 from Products.ECHO_content.analyseAndTag.analyseAndTag import DonatusFile  from Products.ECHO_content.analyseAndTag.analyseAndTag import DonatusFile
   from OFS.SimpleItem import SimpleItem
   from OFS.Folder import Folder
 import xml.parsers  import xml.parsers
   import os.path
   import urlparse,urllib
   from Globals import package_home
   
 def donatus(txt2):  class ECHO_language:
         import xmlrpclib          """language methods"""
   
         server = xmlrpclib.ServerProxy("http://archimedes.fas.harvard.edu/cgi-bin/donatus-rpc")  
   
         txt=txt2.encode('utf-8')          def tagLex(self,nr="1",id=None):
         bin=xmlrpclib.Binary(txt)              """gerateword tags"""
   
                   
               df=DonatusFile(txt=self.getPage(_pn=nr,_id=id),baseUri=self.baseUri)
   
         ret=server.donatus.analyze(bin)              return df.convertedXML()
               #return DonatusFile(txt=self.getPage(_pn=nr)).convertedXML()
   
   class Collection(SimpleItem):
            def getCollectionXML(self,RESPONSE=None):
                                   
         return ret['morphData'].data               """get collection as xml"""
                return self.aq_parent.getCollectionXML(collection=self.getId(),RESPONSE=RESPONSE)
   
            def __init__(self,id):
                """initialise"""
                self.id=id
                self.entries=[]
                
            
            def getEntries(self):
                """get the entries"""
                entries=self.entries
                for entry in entries: #backward compatibility, cannot be removed a.s.a.p.
                    print entry
                    if entry.has_key('master') and (len(entry['master'])<3):
                        entry['master']=(entry['master'][0],entry['master'][1],'')
                    if entry.has_key('slave') and (len(entry['slave'])<3):
                        entry['slave']=(entry['slave'][0],entry['slave'][1],'')
                    
                return self.entries
            
            def deleteEntry(self,nr):
                """delete an entry"""
                del(self.entries[nr])
              
            def changeEntry(self,nr,slaveUrl):
                """change an entry, only slaveUrl"""
                tmp=self.entries[nr]
                tmp['slave']=(slaveUrl,"","")
                
                entries=self.entries[0:]
                entries[nr]=tmp 
                self.entries=entries[0:]
                
            def appendEntry(self,fn,id,type,pagelink):
                """append an entry"""
                #check if last entry is complete
                createNew=False
   
 def donatusVariant2Lemma(morphData):               if len(self.entries)==0: #noch gar kein Eintrag
         """creates hash variant -> morphdata"""                   createNew=True
         ret={}  
         dom=xml.dom.minidom.parseString(morphData)  
         lemmas=dom.getElementsByTagName('lemma')  
         for lemma in lemmas:  
                 variants=lemma.getElementsByTagName('variant')  
                 for variant in variants:  
                         atr=variant.getAttribute('form')  
                         if ret.has_key(atr):  
                                 ret[atr].append=lemma.getAttribute('form')  
                         else:                          else:
                                 ret[atr]=[lemma.getAttribute('form')]                   entry=self.entries[-1]
                    if entry.get('master',None) and entry.get('slave',None):
                        createNew=True
                if createNew:
   
         return ret                   self.entries.append({})
                    entry=self.entries[-1]
                if type=="master":
                    entry['master']=(fn,id,pagelink)
                elif type=="slave":
                    entry['slave']=(fn,id,pagelink)
   
 class ECHO_language:               entries=self.entries[0:]
         """language methods"""               entries[-1]=entry 
                self.entries=entries[0:]
                   
         def donatusVariant2Lemma(self,nr='1'):  class ECHO_linkCreator(Folder):
                 """analyze by donatus"""       """creator for links"""
                 return donatusVariant2Lemma(donatus(self.lemmatize(nr)))  
   
        meta_type="ECHO_linkCreator"
                   
         def tagLex(self,nr="1"):  
             """gerateLinks"""  
             txt=self.getPage(_pn=nr)  
                         
             df=DonatusFile(txt=self.getPage(_pn=nr))  
                         
             return df.wordsToLinks()  
             #return DonatusFile(txt=self.getPage(_pn=nr)).convertedXML()  
                   
         def tagLex_old(self,nr="1"):       def getCollectionEntries(self,collection):
                 """generate Links"""           col=getattr(self,collection,None)
                 global retLex           if not col:
                 global toggle               return []
          
                 toggle=0           return col.getEntries()
                 retLex=""       
        
                 lemmatized=self.lemmatize(nr)[0:]       def getCollectionXML(self,collection=None,RESPONSE=None):
                 #print "ho",repr(lemmatized)           """exports the collection as an XML file"""
                 variants=donatusVariant2Lemma(donatus(lemmatized))           if not collection:
                                return "<error>no collection: need parameter collection=COLLECTION_NAME</error>"
                 def createTag(name,attrs):         
                         global toggle           i=0
                                    ret=""
                         if name=="w":           ret+="""<?xml version="1.0" encoding="UTF-8"?>"""
                                 toggle=1           ret+="""<linklist xmlns="http://www.mpiwg-berlin.mpg.de/namespace">"""
                                 return ""           ret+="""<linklistname>%s</linklistname>"""%collection
            ret+="""<masterurl ref="%s"/>"""%self.getUrls(collection)[0]
            ret+="""<slaveurl ref="%s"/>"""%self.getUrls(collection)[1]
            
            for entry in self.getCollectionEntries(collection):
                ret+="""<link id="%s">"""%i
                i+=1
                
                if entry.has_key('master'):
                    ms=entry['master']
     
                
                    try:
                        if urlparse.urlparse(ms[0])[0]=="http": # url
                            ret+="""<source filename="%s"/>"""%urllib.quote(ms[0])
                         else:                          else:
                                 tag="<"                           ret+="""<source filename="%s" refid="%s">"""%(ms[0],ms[1])
                                 tag+=name                           splitted=ms[2].split("/")
                                 for attr in attrs.keys():                           if (len(splitted)>3):
                                         tag+=""" %s="%s" """%(attr,attrs[attr])                               ret+="""<pagelink refid="%s" selectionNodeIndex="%s"/>"""%(splitted[0],splitted[3])
                                 tag+=">"   
                         return tag                           ret+="""</source>"""
                                                    except: #ohne pagelink&
                 def createData(data):                       ret+="""<source filename="%s" refid="%s"/>"""%ms
                         global toggle               if entry.has_key('slave'):
                         astring="""<a href="http://141.14.236.86/cgi-bin/toc/dict?step=remotetable;word=%s;lang=de" target="_blank">%s</a> """                   ms=entry['slave']
                         if toggle: # tag war ein w                   try:
                                 toggle=0                      if urlparse.urlparse(ms[0])[0]=="http": # url
                                 if variants.has_key(data):                          ret+="""<target filename="%s"/>"""%urllib.quote(ms[0])
                                         return astring%(variants[data][0],data)  
                                 else:                                  else:
                                         return astring%(data,data)                          ret+="""<target filename="%s" refid="%s">"""%(ms[0],ms[1])
                           splitted=ms[2].split("/")
                           if (len(splitted)>3):
                               ret+="""<pagelink refid="%s" selectionNodeIndex="%s"/>"""%(splitted[0],splitted[3])
                           ret+="""</target>"""
                    except: #ohne pagelink
                        ret+="""<target filename="%s" refid="%s"/>"""%ms
                     
                ret+="</link>"
            ret+="""</linklist>"""
            if RESPONSE:
                RESPONSE.setHeader("Content-Type","text/xml")
            return ret
        def index_html(self,collection=None):
            """show create links"""
            if not collection:
                return "no collection: need parameter collection=COLLECTION_NAME"
            
                 
            pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','ECHO_linkCreator_main')).__of__(self)
            
            col=getattr(self,collection,None)
            if not col:
                return []
          
            masterUrl=getattr(col,'masterUrl','')
            slaveUrl=getattr(col,'slaveUrl','')
            
            return pt(collection=collection,masterUrl=masterUrl,slaveUrl=slaveUrl)
        
        def addEntry(self,collection,fn,id,type,pagelink,fromurl=None,RESPONSE=None,REQUEST=None):
            """add an entry"""
           
            col=getattr(self, collection,None)
            if not col:
                self._setObject(collection,Collection(collection))
                col=getattr(self, collection)
            
            col.appendEntry(fn,id,type,pagelink)
            
            if fromurl and RESPONSE:
        
                RESPONSE.setHeader("Expires",(DateTime()-1).rfc822())
                RESPONSE.setHeader("Cache-Control", "no-cache")
                RESPONSE.redirect(fromurl)
      
   
        def changeEntry(self,collection,nr,slaveUrl,RESPONSE=None):
            """change an entry 8only slaveUrl at the moment"""
            col=getattr(self, collection,None)
            col.changeEntry(nr,slaveUrl)
            
            if RESPONSE:
                RESPONSE.redirect(self.absolute_url()+"?collection="+collection)
            
        def removeEntry(self,collection,nr,RESPONSE=None):
            """remove an entry"""
            col=getattr(self, collection,None)
            col.deleteEntry(nr)
            
            if RESPONSE:
                RESPONSE.redirect(self.absolute_url()+"?collection="+collection)
            
        def setUrls(self,collection,masterUrl,slaveUrl,RESPONSE=None):
            """set the urls for the document viewer"""
            col=getattr(self, collection,None)
            setattr(col,'masterUrl',masterUrl)
            setattr(col,'slaveUrl',slaveUrl)
            
            if RESPONSE:
                RESPONSE.redirect(self.absolute_url()+"?collection="+collection)
            
        def getUrls(self,collection,RESPONSE=None):
            """set the urls for the document viewer"""
            col=getattr(self, collection,None)
            x=getattr(col,'masterUrl')
            y=getattr(col,'slaveUrl')
            return x,y
            
   def manage_addECHO_linkCreatorForm(self,RESPONSE=None):
       """Form for adding"""
       manage_addECHO_linkCreator(self,RESPONSE)
   
   def manage_addECHO_linkCreator(self,RESPONSE=None):
       """Add an ECHO_main"""
       id='linkCreator'
       self._setObject(id,ECHO_linkCreator(id))
       
     
       if RESPONSE is not None:
           RESPONSE.redirect('manage_main')      
                                                                   
                                                                                   
   
                 # 3 handler functions  
                 def start_element(name, attrs):  
                         global retLex  
                                                   
                         retLex+=createTag(name,attrs)  
                 def end_element(name):  
                         global retLex  
                         if not name=="w":  
                                 retLex+="</%s>"%(name.encode('utf-8'))  
                                                   
                                           
                 def char_data(data):  
                         global retLex  
                         if data:  
                                 try:  
                                         retLex+=createData(data)  
                                 except:  
                                         """no"""  
                                                                                   
                 p = xml.parsers.expat.ParserCreate()  
   
                 p.StartElementHandler = start_element  
                 p.EndElementHandler = end_element  
                 p.CharacterDataHandler = char_data  
                                   
                 p.Parse(lemmatized.encode('utf-8'),1)  
                 #print repr(lemmatized.encode('utf-8'))  
                   
                 return retLex  
                   
                                   
         def lemmatize(self,nr='1',lang="de"):  
                 """lemmatize"""  
                 global ret  
                 ret=""  
                                   
                 def createTag(name,attrs):  
                         tag="<"  
                         tag+=name  
                         for attr in attrs.keys():  
                                 tag+=""" %s="%s" """%(attr,attrs[attr])  
                         tag+=">"  
                         return tag  
                                   
                 def insertW(str):  
                     splitted=str.split()  
                     wordlist=["<w>%s</w>"%split for split in splitted]  
                     return "\n".join(wordlist)  
   
                 # 3 handler functions  
                 def start_element(name, attrs):  
                         global ret  
                         ret+=createTag(name,attrs)  
                 def end_element(name):  
                         global ret  
                         ret+="</%s>"%(name.encode('utf-8'))  
                       
                 def char_data(data):  
                         global ret  
                         ret+=insertW(data)  
   
                 p = xml.parsers.expat.ParserCreate()  
   
                 p.StartElementHandler = start_element  
                 p.EndElementHandler = end_element  
                 p.CharacterDataHandler = char_data  
   
                 p.Parse(self.getPage(nr), 1)  
                 txt="""<wtag locator="xxx">  
                 <section lang="%s"><s>%s</s></section>  
                 </wtag>"""  
                 ret=txt%(lang,ret)  
                                   
                 return ret  
Removed from v.1.4  
changed lines
  Added in v.1.10

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>