Annotation of cdli/cdli_files.py, revision 1.108

1.22      dwinter     1: """CDLI extensions of the filearchive"""    
1.47      dwinter     2: from Products.versionedFile.extVersionedFile import *
1.1       dwinter     3: from Products.ZCatalog.CatalogPathAwareness import CatalogAware
                      4: import os.path
                      5: import os
1.3       dwinter     6: import urlparse
1.49      dwinter     7: import urllib
                      8: import cgi
1.4       dwinter     9: from OFS.OrderedFolder import OrderedFolder
                     10: from OFS.SimpleItem import SimpleItem
                     11: import time
1.12      dwinter    12: from OFS.Folder import manage_addFolder
                     13: import re
1.19      dwinter    14: from AccessControl import ClassSecurityInfo
                     15: from Acquisition import Implicit
1.39      dwinter    16: from Globals import Persistent
1.19      dwinter    17: from threading import Thread
                     18: from ZPublisher.HTTPRequest import HTTPRequest
                     19: from ZPublisher.HTTPResponse import HTTPResponse
                     20: from ZPublisher.BaseRequest import RequestContainer
1.20      dwinter    21: import threading
1.57      dwinter    22: import logging
1.58      dwinter    23: import transaction
1.61      dwinter    24: import copy
1.66      dwinter    25: import codecs
1.76      dwinter    26: import sys
1.83      dwinter    27: from BTrees.IOBTree import IOBTree 
1.107     dwinter    28: from BTrees.OOBTree import OOBTree 
1.81      casties    29: import cdliSplitter
1.83      dwinter    30: from sets import Set
                     31: import md5
1.87      dwinter    32: from DownloadBasket import DownloadBasketFinallyThread
1.102     dwinter    33: from types import *
1.103     dwinter    34: import pickle
1.104     dwinter    35: import tempfile
                     36:                       
1.105     dwinter    37: from cdli_helpers import *
1.87      dwinter    38: 
1.46      dwinter    39: class CDLIFileObject(CatalogAware,extVersionedFileObject):
1.1       dwinter    40:     """CDLI file object"""
                     41:     
                     42:     meta_type="CDLI File Object"
1.25      dwinter    43:     default_catalog='CDLIObjectsCatalog'
1.1       dwinter    44:     
1.12      dwinter    45:     security=ClassSecurityInfo()
                     46:     
1.78      dwinter    47:     security.declareProtected('manage','index_html')
1.81      casties    48: 
                     49:     security.declarePublic('view')
                     50:     view = PageTemplateFile('zpt/viewCDLIFile.zpt', globals())
                     51: 
                     52:     security.declarePublic('editATF')
                     53:     editATF = PageTemplateFile('zpt/editATFFile.zpt', globals())
                     54: 
1.28      dwinter    55:     def PrincipiaSearchSource(self):
                     56:            """Return cataloguable key for ourselves."""
                     57:            return str(self)
                     58:        
1.89      dwinter    59:     def setAuthor(self, author):
                     60:         """change the author"""
                     61:         self.author = author
                     62:        
1.26      dwinter    63:     def makeThisVersionCurrent_html(self):
1.85      dwinter    64:         """form for mthis version current"""
1.26      dwinter    65:         
                     66:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','makeThisVersionCurrent.zpt')).__of__(self)
                     67:         return pt()                 
1.81      casties    68: 
                     69:     security.declarePublic('makeThisVersionCurrent')
1.27      dwinter    70:     def makeThisVersionCurrent(self,comment,author,RESPONSE=None):
1.26      dwinter    71:         """copy this version to current"""
                     72:         parent=self.aq_parent
1.81      casties    73:         parent.manage_addVersionedFileObject(id=None,vC=comment,author=author,file=self.getData(),RESPONSE=RESPONSE)
                     74:         #newversion=parent.manage_addCDLIFileObject('',comment,author)
                     75:         #newversion.manage_upload(self.getData())
1.27      dwinter    76:                                         
1.81      casties    77:         #if RESPONSE is not None:
                     78:         #    RESPONSE.redirect(self.aq_parent.absolute_url()+'/history')
1.27      dwinter    79: 
1.26      dwinter    80:         return True
                     81:     
1.52      dwinter    82:     def getFormattedData(self):
                     83:         """fromat text"""
                     84:         data=self.getData()
1.70      dwinter    85: #        return re.sub("\s\#lem"," #lem",data) #remove return vor #lem
                     86:         return re.sub("#lem","       #lem",data) #remove return vor #lem
1.52      dwinter    87:         
1.1       dwinter    88:     
1.40      dwinter    89:     security.declarePublic('getPNumber')
                     90:     def getPNumber(self):
1.46      dwinter    91:         """get the pnumber"""
                     92:         try:
1.49      dwinter    93:                 txt=re.match("&[Pp](\d*)\s*=([^\r\n]*)",self.getData()[0:])
1.40      dwinter    94:         except:
1.49      dwinter    95:                 txt=self.getData()[0:]
1.40      dwinter    96:                 
                     97:                 return "ERROR"
                     98:         try:
                     99:             return "P"+txt.group(1)
                    100:         except:
                    101:             return "ERROR"
                    102: 
1.12      dwinter   103:     security.declarePublic('getDesignation')
                    104:     def getDesignation(self):
                    105:         """get the designation out of the file"""
1.16      dwinter   106:         try:
1.46      dwinter   107:                 txt=re.match("&[Pp](\d*)\s*=([^\r\n]*)",self.getData()[0:])
1.13      dwinter   108:         except:
1.46      dwinter   109:                 txt=self.getData()[0:]
1.16      dwinter   110:                 
                    111:                 return "ERROR"
1.12      dwinter   112:         try:
                    113:             return txt.group(2)
                    114:         except:
                    115:             return "ERROR"
1.81      casties   116: 
1.12      dwinter   117:         
1.1       dwinter   118: manage_addCDLIFileObjectForm=DTMLFile('dtml/fileAdd', globals(),Kind='CDLIFileObject',kind='CDLIFileObject', version='1')
                    119: 
1.81      casties   120: def manage_addCDLIFileObject(self,id,vC='',author='', file='',title='',versionNumber=0,
                    121:                              precondition='', content_type='',
1.48      dwinter   122:                              from_tmp=False,REQUEST=None):
1.1       dwinter   123:     """Add a new File object.
                    124:     Creates a new File object 'id' with the contents of 'file'"""
1.48      dwinter   125:  
1.1       dwinter   126:     id=str(id)
                    127:     title=str(title)
                    128:     content_type=str(content_type)
                    129:     precondition=str(precondition)
                    130:     
                    131:     id, title = cookId(id, title, file)
                    132: 
                    133:     self=self.this()
                    134: 
                    135:     # First, we create the file without data:
1.81      casties   136:     self._setObject(id, CDLIFileObject(id,title,versionNumber=versionNumber,versionComment=vC,time=time.localtime(),author=author))
1.80      casties   137:     fob = self._getOb(id)
1.45      dwinter   138:     
1.1       dwinter   139:     # Now we "upload" the data.  By doing this in two steps, we
                    140:     # can use a database trick to make the upload more efficient.
1.48      dwinter   141: 
                    142:     if file and not from_tmp:
1.80      casties   143:         fob.manage_upload(file)
1.48      dwinter   144:     elif file and from_tmp:
1.81      casties   145:         fob.manage_file_upload(file) # manage_upload_from_tmp doesn't exist in ExtFile2
                    146:     #    fob.manage_upload_from_tmp(file) # manage_upload_from_tmp doesn't exist in ExtFile2
1.1       dwinter   147:     if content_type:
1.80      casties   148:         fob.content_type=content_type
1.1       dwinter   149: 
1.81      casties   150:     #logging.debug("manage_add: lastversion=%s"%self.getData())
                    151:     logging.debug("reindex1: %s in %s"%(repr(self),repr(self.default_catalog)))
1.45      dwinter   152:     self.reindex_object()
1.81      casties   153:     #logging.debug("manage_add: fob_data=%s"%fob.getData())
1.80      casties   154:     logging.debug("reindex2: %s in %s"%(repr(fob), repr(fob.default_catalog)))
1.81      casties   155:     fob.index_object()
1.49      dwinter   156: 
1.85      dwinter   157:     self.CDLIRoot.updateOrAddToFileBTree(ob)
1.1       dwinter   158:     if REQUEST is not None:
                    159:         REQUEST['RESPONSE'].redirect(self.absolute_url()+'/manage_main')
1.3       dwinter   160:     
1.80      casties   161: 
1.46      dwinter   162: class CDLIFile(extVersionedFile,CatalogAware):
1.3       dwinter   163:     """CDLI file"""
                    164:     
1.77      dwinter   165:     security=ClassSecurityInfo()
1.3       dwinter   166:     meta_type="CDLI file"
1.81      casties   167:     content_meta_type = ["CDLI File Object"]
                    168:     
1.3       dwinter   169:     default_catalog='CDLICatalog'
1.81      casties   170:     
1.78      dwinter   171:     security.declareProtected('manage','index_html')
1.81      casties   172:     
1.51      dwinter   173:     def getLastVersionData(self):
                    174:         """get last version data"""
1.81      casties   175:         return self.getData()
1.51      dwinter   176: 
1.52      dwinter   177:     def getLastVersionFormattedData(self):
                    178:         """get last version data"""
1.81      casties   179:         return self.getContentObject().getFormattedData()
                    180: 
                    181:     def getTextId(self):
                    182:         """returns P-number of text"""
                    183:         # assuming that its the beginning of the title
                    184:         return self.title[:7]
1.52      dwinter   185: 
1.51      dwinter   186:     #security.declarePublic('history')
1.26      dwinter   187:     def history(self):
                    188:         """history"""  
                    189: 
                    190:         ext=self.ZopeFind(self.aq_parent,obj_ids=["history_template.html"])
                    191:         if ext:
                    192:             return getattr(self,ext[0][1].getId())()
                    193:         
                    194:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','versionHistory')).__of__(self)
                    195:         return pt()
                    196: 
                    197: 
1.44      dwinter   198:     def getBasketFromId(self,basketid, context=None):
                    199:         """get basket from id"""
                    200: 
                    201:         if not context:
                    202:             context=self
                    203:             
                    204:         for basket in self.ZopeFind(context,obj_metatypes=["CDLIBasket"]):
                    205:             if basket[0]==basketid:
                    206:                 return basket[1]
                    207:         else:
                    208:             None
                    209: 
1.12      dwinter   210:  
1.8       dwinter   211:     def isContainedInBaskets(self,context=None):
                    212:         """check is this file is part of any basket
                    213:         @param context: (optional) necessessary if CDLIBasketCatalog is not an (inherited) attribute of self, context.CDLIBasketCatalog
                    214:                         has to exist.
                    215:         """
                    216: 
                    217:         if not context:
                    218:             context=self
1.12      dwinter   219:         
                    220:         ret=[]
                    221:         for x in context.CDLIBasketCatalog.search({'getFileNamesInLastVersion':self.getId()}):
                    222:             #if the basket x is deleted it seemes to be that x is sometimes still in the Catalog, why?
                    223:             try:
                    224:                 ret.append(x.getObject())
                    225:             except:
                    226:                 pass
                    227:         return ret
                    228:         #return [x.getObject() for x in context.CDLIBasketCatalog.search({'getFileNamesInLastVersion':self.getId()})]
1.5       dwinter   229:         
                    230:         
1.81      casties   231:     def _newContentObject(self, id, title='', versionNumber=0, versionComment=None, time=None, author=None):
                    232:         """factory for content objects. to be overridden in derived classes."""
                    233:         logging.debug("_newContentObject(CDLI)")
                    234:         return CDLIFileObject(id,title,versionNumber=versionNumber,versionComment=versionComment,time=time,author=author)
                    235: 
                    236: 
1.5       dwinter   237:     def addCDLIFileObjectForm(self):
                    238:         """add a new version"""
                    239:         
                    240:         if str(self.REQUEST['AUTHENTICATED_USER']) in ["Anonymous User"]:
                    241:             return "please login first"
                    242:         if (self.lockedBy==self.REQUEST['AUTHENTICATED_USER']) or (self.lockedBy==''):
                    243:             out=DTMLFile('dtml/fileAdd', globals(),Kind='CDLIFileObject',kind='CDLIFileObject',version=self.getVersion()).__of__(self)
                    244:             return out()
                    245:         else:
                    246:             return "Sorry file is locked by somebody else"
                    247:         
1.37      dwinter   248:     def manage_addCDLIFileObject(self,id,vC,author,
                    249:                                  file='',title='',
                    250:                                  precondition='', 
                    251:                                  content_type='',
                    252:                                  changeName='no',newName='', 
1.48      dwinter   253:                                  come_from=None,
                    254:                                  from_tmp=False,RESPONSE=None):
1.3       dwinter   255:         """add"""
1.48      dwinter   256:       
1.3       dwinter   257:         try: #TODO: der ganze vC unsinn muss ueberarbeitet werden
                    258:             vC=self.REQUEST['vC']
                    259:         except:
                    260:             pass
                    261:         
1.81      casties   262:         ob = self.addContentObject(id, vC, author, file, title, changeName=changeName, newName=newName, from_tmp=from_tmp,
                    263:                                    precondition=precondition, content_type=content_type)
1.3       dwinter   264: 
1.22      dwinter   265:         try:
1.81      casties   266:             #FIXME: wozu ist das gut?
                    267:             self.REQUEST.SESSION['objID_parent']=self.getId()
1.22      dwinter   268:         except:
1.81      casties   269:             pass
1.37      dwinter   270:   
1.85      dwinter   271:         #self.cdliRoot.updateOrAddToFileBTree(self)# now update the object in the cache
                    272:       
                    273:         
1.3       dwinter   274:         if RESPONSE:
1.81      casties   275:             if ob.getSize()==0:
                    276:                 self.REQUEST.SESSION['objID']=ob.getId()
1.3       dwinter   277:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','errorUploadFile')).__of__(self)
                    278:                 return pt()
                    279:             else:
1.37      dwinter   280:                 if come_from and (come_from!=""):
1.81      casties   281:                     RESPONSE.redirect(come_from+"?change="+self.getId())
1.37      dwinter   282:                 else:
                    283:                     RESPONSE.redirect(self.REQUEST['URL2']+'?uploaded=%s'%self.title)
1.3       dwinter   284:         else:
1.81      casties   285:             return ob
1.3       dwinter   286:         
                    287:         
                    288: def manage_addCDLIFileForm(self):
                    289:     """interface for adding the OSAS_root"""
                    290:     pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','addCDLIFile.zpt')).__of__(self)
                    291:     return pt()
                    292: 
                    293: def manage_addCDLIFile(self,id,title,lockedBy, author=None, RESPONSE=None):
                    294:     """add the OSAS_root"""
                    295:     newObj=CDLIFile(id,title,lockedBy,author)
1.22      dwinter   296:                                         
                    297:     tryToggle=True
                    298:     tryCount=0
                    299: 
                    300:     self._setObject(id,newObj)                  
1.45      dwinter   301:     getattr(self,id).reindex_object()
1.22      dwinter   302:         
1.3       dwinter   303:     if RESPONSE is not None:
                    304:         RESPONSE.redirect('manage_main')
                    305: 
1.81      casties   306: 
1.69      dwinter   307: def checkUTF8(data):
                    308:     """check utf 8"""
                    309:     try:
                    310:         data.encode('utf-8')
                    311:         return True
                    312:     except:
                    313:         return False
                    314:     
1.1       dwinter   315: 
1.45      dwinter   316: def checkFile(filename,data,folder):
                    317:     """check the files"""
                    318:     # first check the file name
                    319:     fn=filename.split(".") # no extension
1.48      dwinter   320: 
1.45      dwinter   321:     if not fn[0][0]=="P":
1.46      dwinter   322:         return False,"P missing in the filename"
1.45      dwinter   323:     elif len(fn[0])!=7:
1.46      dwinter   324:         return False,"P number has not the right length 6"
1.69      dwinter   325:     elif not checkUTF8(data):
                    326:         return False,"not utf-8"
1.45      dwinter   327:     else:
1.69      dwinter   328:         return True,""
                    329:     
1.45      dwinter   330:     
1.25      dwinter   331: def splitatf(fh,dir=None,ext=None):
1.2       dwinter   332:     """split it"""
1.4       dwinter   333:     ret=None
1.2       dwinter   334:     nf=None
1.25      dwinter   335:     i=0
1.49      dwinter   336: 
1.81      casties   337:     #ROC: why split \n first and then \r???
1.73      dwinter   338:     if (type(fh) is StringType) or (type(fh) is UnicodeType):
                    339:         iter=fh.split("\n")
                    340:     else:
                    341:         iter=fh.readlines()
                    342:         
                    343:     for lineTmp in iter:
1.66      dwinter   344:         lineTmp=lineTmp.replace(codecs.BOM_UTF8,'') # make sure that all BOM are removed..
                    345:         for line in lineTmp.split("\r"):
                    346:             #logging.log("Deal with: %s"%line)
                    347:             if ext:
                    348:                 i+=1
                    349:                 if (i%100)==0:
                    350:                     ext.result+="."
                    351:                 if i==10000:
                    352:                     i=0
                    353:                     ext.result+="<br>"
                    354:             #check if basket name is in the first line
                    355:             if line.find("#atf basket")>=0: #old convention
                    356:                 ret=line.replace('#atf basket ','')
                    357:                 ret=ret.split('_')[0]
                    358:             elif line.find("#basket:")>=0: #new convention
                    359:                 ret=line.replace('#basket: ','')
                    360:                 ret=ret.split('_')[0]
                    361: 
                    362:             else:
                    363:                 if (len(line.lstrip())>0) and (line.lstrip()[0]=="&"): #newfile
                    364:                     if nf:
                    365:                         nf.close() #close last file
                    366: 
1.49      dwinter   367: 
1.66      dwinter   368:                     filename=line[1:].split("=")[0].rstrip()+".atf"
                    369:                     if dir:
                    370:                         filename=os.path.join(dir,filename)
                    371:                     nf=file(filename,"w")
                    372:                     logging.info("open %s"%filename)
                    373:                 if nf:    
                    374:                     nf.write(line.replace("\n","")+"\n")
                    375: 
                    376:     try:        
                    377:         nf.close()
1.61      dwinter   378:     except:
1.66      dwinter   379:         pass
1.73      dwinter   380:     
                    381:     if not((type(fh) is StringType) or (type(fh) is UnicodeType)):
                    382:         fh.close()
1.5       dwinter   383:     return ret,len(os.listdir(dir))
1.4       dwinter   384: 
1.19      dwinter   385: 
1.46      dwinter   386: class CDLIFileFolder(extVersionedFileFolder):
1.4       dwinter   387:     """CDLI File Folder"""
1.1       dwinter   388:     
1.19      dwinter   389:     security=ClassSecurityInfo()
1.1       dwinter   390:     meta_type="CDLI Folder"
1.81      casties   391:     file_meta_type=['CDLI file']
                    392:     folder_meta_type=['CDLI Folder']
                    393: 
                    394:     file_catalog='CDLICatalog'
                    395: 
1.45      dwinter   396:     #downloadCounter=0 # counts how many download for all files currently run, be mehr als 5 wird verweigert.
1.24      dwinter   397:     tmpStore2={}
1.81      casties   398: 
                    399:     def _newVersionedFile(self, id, title='', lockedBy=None, author=None):
                    400:         """factory for versioned files. to be overridden in derived classes."""
                    401:         logging.debug("_newVersionedFile(CDLI)")
                    402:         return CDLIFile(id, title, lockedBy=lockedBy, author=author)
                    403: 
1.19      dwinter   404:     def setTemp(self,name,value):
                    405:         """set tmp"""
                    406: 
                    407:         setattr(self,name,value)
                    408:                                         
1.81      casties   409:     deleteFileForm = PageTemplateFile("zpt/doDeleteFile", globals())
1.19      dwinter   410:                                        
1.81      casties   411:     def delete(self,ids,REQUEST=None):
                    412:         """delete these files"""
1.12      dwinter   413:         if type(ids) is not ListType:
                    414:             ids=[ids]
1.81      casties   415: 
                    416:         self.manage_delObjects(ids)
1.12      dwinter   417:         
1.81      casties   418:         if REQUEST is not None:
                    419:             return self.index_html()
                    420: 
                    421: 
1.4       dwinter   422:     def getVersionNumbersFromIds(self,ids):
                    423:         """get the numbers of the current versions of documents described by their ids"""
                    424:         
                    425:         ret=[]
                    426:         searchStr=" OR ".join(ids)
                    427:         
1.9       dwinter   428:         founds=self.CDLICatalog.search({'title':searchStr})
1.4       dwinter   429:         
                    430:         for found in founds:
1.81      casties   431:             lastVersion=found.getObject().getContentObject()
1.4       dwinter   432:             ret.append((found.getId,lastVersion))
                    433:         
                    434:         return ret
                    435:     
1.67      dwinter   436:     def getFile(self,fn):
                    437:         """get the content of the file fn"""
1.81      casties   438:         logging.debug("getFile: %s"%repr(fn))
                    439:         if not self.hasObject(fn):
                    440:             # search deeper
                    441:             founds=getattr(self, self.file_catalog).search({'textid':fn})
                    442:             if founds:
                    443:                 obj=founds[0].getObject().getContentObject()
                    444:             else:
                    445:                 return "" 
1.67      dwinter   446:         else:
1.81      casties   447:             obj = self[fn].getContentObject()
1.68      dwinter   448: 
1.81      casties   449:         return obj.getData()[0:] 
                    450:  
1.67      dwinter   451:     
1.14      dwinter   452:     def checkCatalog(self,fn):
                    453:         """check if fn is in the catalog"""
1.19      dwinter   454:         #TODO add checkCatalog
1.14      dwinter   455:         
1.19      dwinter   456:                                    
1.45      dwinter   457:     def findObjectsFromListWithVersion(self,list,author=None):
1.26      dwinter   458:         """find objects from a list with versions
                    459:         @param list: list of tuples  (cdliFile,version)
                    460:         """
                    461:         #self.REQUEST.SESSION['fileIds']=list#store fieldIds in session for further usage
                    462:         #self.REQUEST.SESSION['searchList']=self.REQUEST.SESSION['fileIds']
                    463:         
                    464:         pt=getattr(self,'filelistVersioned.html')
                    465:             
1.45      dwinter   466:         return pt(search=list,author=author)
1.26      dwinter   467:     
                    468:     
1.67      dwinter   469:     def getAllPNumbers(self):
                    470:         """get a list of all files (resp their p-numbers) stored"""
                    471:         
                    472:         ret=[x.getId for x in  self.CDLICatalog()]
                    473:      
                    474:         return ret
                    475:     
1.83      dwinter   476:     def expandFile(self,fileId,fileTree):
                    477:         """wildcard in fileID suche alle Treffer"""
                    478:         founds=self.CDLICatalog({'title':fileId})
                    479:         for found in founds:
                    480:             fileTree.add(found.getId)
                    481:             logging.debug("ADDD:"+found.getId)
                    482:          
1.85      dwinter   483:     def findObjectsFromList(self,enterList=None,display=False,start=None,upload=None,list=None,basketName=None,numberOfObjects=None,RESPONSE=None,REQUEST=None,returnHash=False,hash=None):
1.1       dwinter   484:         """findObjectsFromList (, TAB oder LINE separated)"""
1.15      dwinter   485:                                        
1.83      dwinter   486:         logging.debug("start: findObjectsFromList")
1.85      dwinter   487:         #logging.debug("start: findObjectsFromList"+repr(list))
                    488:         
                    489:             
1.6       dwinter   490:         if upload: # list from file upload
                    491:             txt=upload.read()
1.35      dwinter   492:                                        
                    493:         if enterList:
                    494:             txt=enterList
                    495:             
                    496:         if upload or enterList:
1.6       dwinter   497:             txt=txt.replace(",","\n")
                    498:             txt=txt.replace("\t","\n")
1.12      dwinter   499:             txt=txt.replace("\r","\n")
1.6       dwinter   500:             idsTmp=txt.split("\n")
                    501:             ids=[]
                    502:             for id in idsTmp: # make sure that no empty lines
                    503:                 idTmp=id.lstrip().rstrip()
                    504:                 if len(idTmp)>0:
                    505:                     
                    506:                     ids.append(idTmp)
                    507:                     
                    508:             #self.REQUEST.SESSION['ids']=" OR ".join(ids)
1.12      dwinter   509: 
1.6       dwinter   510:             pt=getattr(self,'filelist.html')
1.7       dwinter   511:             self.REQUEST.SESSION['searchList']=ids
1.6       dwinter   512:             return pt(search=ids)
1.7       dwinter   513:         
1.6       dwinter   514:         if basketName:
1.7       dwinter   515:             #TODO: get rid of one of these..
                    516:             
1.6       dwinter   517:             pt=getattr(self,'filelist.html')
1.7       dwinter   518:             return pt(basketName=basketName,numberOfObjects=numberOfObjects)
1.6       dwinter   519:         
1.102     dwinter   520:         
                    521:         result =self.CDLICache.retrieve(hash)
                    522:         if result:
                    523:            logging.debug("give result from storage2")
                    524:            return hash,result
                    525:   
1.15      dwinter   526:         if list is not None: # got already a list
1.83      dwinter   527:             
                    528:             logging.debug(" ----List version")
1.6       dwinter   529:             ret=[]
1.83      dwinter   530:             fileTree=Set()
                    531:             
1.6       dwinter   532:             for fileId in list:
1.83      dwinter   533:                
                    534:                 if fileId.find("*")>-1: #check for wildcards
                    535:                         self.expandFile(fileId,fileTree)
                    536:                         
1.35      dwinter   537:                 elif len(fileId.split("."))==1:
1.6       dwinter   538:                         fileId=fileId+".atf"
1.83      dwinter   539:                         fileTree.add(fileId)
                    540:                 #logging.debug("   -----:"+fileId)
                    541:                 #ret+=self.CDLICatalog({'title':fileId})
                    542:                 #x =self.getFileObject(fileId)
                    543:                 #if x is not None:
                    544:                 #    ret.append(x)
1.35      dwinter   545:                 
1.83      dwinter   546:             
                    547:             
                    548:             ids = fileTree & self.v_file_ids
1.85      dwinter   549:             #self.REQUEST.SESSION['fileIds']=ids#store fieldIds in session for further usage
                    550:             l=makelist(fileTree)[0:]
1.93      dwinter   551:             #logging.debug("l-list:"+repr(l))
1.85      dwinter   552:             self.REQUEST.SESSION['fileIds']=l#store fieldIds in session for further usage
                    553:             self.REQUEST.SESSION['searchList']=l
                    554:             #self.REQUEST.SESSION['searchList']=['P000001.atf']
                    555:           
1.83      dwinter   556:             
1.85      dwinter   557:             hash = md5.new(repr(makelist(fileTree))).hexdigest() # erzeuge hash als identification
                    558:             self.REQUEST.SESSION['hash']=hash
                    559:             #TODO: do I need garbage collection for v_tmpStore ?
1.83      dwinter   560:             
1.84      dwinter   561:             #logging.debug("Hash:"+repr(hash))
1.85      dwinter   562: #        
                    563: #            if hasattr(self.cdliRoot,'v_tmpStore') and self.cdliRoot.v_tmpStore.has_key(hash): 
                    564: #               logging.debug("asking for storage")
                    565: #               res=self.cdliRoot.v_tmpStore[hash]
                    566: #               if res:
                    567: #                   if returnHash == True:
                    568: #                       return hash,res
                    569: #                   return res
1.83      dwinter   570:           
1.7       dwinter   571:             #TODO: get rid of one of these..
1.83      dwinter   572:             #ids=[x.getObject().getId() for x in ret]
                    573:             ret=[(self.getFileObject(x),self.getFileObjectLastVersion(x)) for x in ids]
1.84      dwinter   574:             
                    575:             #self.REQUEST.SESSION['fileIds']=ids#store fieldIds in session for further usage
                    576:             #self.REQUEST.SESSION['searchList']=self.REQUEST.SESSION['fileIds']
1.85      dwinter   577:            
1.25      dwinter   578:             if display:
                    579:                 pt=getattr(self,'filelist.html')
                    580:                 
                    581:                 return pt(search=ids)
1.83      dwinter   582:             else:     
                    583:                 #self.REQUEST.SESSION['hash'] = ret # store in session 
1.102     dwinter   584:                 
1.83      dwinter   585:                 #logging.debug("HHHHHHNEU:"+repr(self.makelist(ids)))
1.84      dwinter   586:                 #logging.debug("HHHHHHNEU:"+repr(hash))
1.102     dwinter   587:                 self.CDLICache.store(hash,ret)
                    588:                 
1.85      dwinter   589:                 if returnHash == True:
                    590:                     return hash,ret
1.25      dwinter   591:                 return ret
                    592:         
                    593:         
1.1       dwinter   594:         
1.7       dwinter   595:         if start:
                    596:             RESPONSE.redirect("filelist.html?start:int="+str(start))
1.85      dwinter   597: 
1.19      dwinter   598:     security.declareProtected('Manage','createAllFilesAsSingleFile')
1.1       dwinter   599:     def createAllFilesAsSingleFile(self,RESPONSE=None):
                    600:         """download all files"""
                    601:         
                    602:         def sortF(x,y):
                    603:             return cmp(x[0],y[0])
                    604:         
1.81      casties   605:         catalog=getattr(self,self.file_catalog)
1.1       dwinter   606:         #tf,tfilename=mkstemp()
1.66      dwinter   607:         if not hasattr(self.temp_folder,'downloadCounter'):
                    608:             self.temp_folder.downloadCounter=0
1.49      dwinter   609: 
                    610:         if getattr(self.temp_folder,'downloadCounter',0) > 5:
1.46      dwinter   611:             return """I am sorry, currently the server has to many requests for downloads, please come back later!"""
1.45      dwinter   612: 
1.46      dwinter   613:         self.temp_folder.downloadCounter+=1
                    614:         self._p_changed=1
1.58      dwinter   615:         transaction.get().commit()
1.45      dwinter   616:        
1.1       dwinter   617:         list=[(x.getId,x) for x in catalog()]
                    618:         list.sort(sortF)
1.46      dwinter   619:         
1.45      dwinter   620: 
1.1       dwinter   621:         
                    622:         RESPONSE.setHeader("Content-Disposition","""attachement; filename=%s"""%"all.atf")
                    623:         RESPONSE.setHeader("Content-Type","application/octet-stream")
1.46      dwinter   624:         tmp=""
1.1       dwinter   625:         for l in list:
                    626:             obj=l[1].getObject()
                    627:             
                    628:             if obj.meta_type=="CDLI file":
                    629:                 
                    630:                 #os.write(tf,obj.getLastVersion().data)
                    631:                 if RESPONSE:
1.81      casties   632:                     RESPONSE.write(obj.getData()[0:])
1.71      dwinter   633:                     RESPONSE.write("\n")
1.46      dwinter   634:                 self.temp_folder.downloadCounter-=1 
                    635:                 self._p_changed=1
1.58      dwinter   636:         transaction.get().commit()
1.1       dwinter   637:         #os.close(tf)
                    638:         #RESPONSE.redirect(self.absolute_url()+"/downloadFile?fn="%tfilename)
                    639:         return True
                    640:     
                    641:     def downloadFile(self,fn):
                    642:         """download fn - not used yet"""
                    643:         self.REQUEST.RESPONSE.setHeader("Content-Disposition","""attachement; filename=%s"""%self.getLastVersion().getId())
                    644:         self.REQUEST.RESPONSE.setHeader("Content-Type","application/octet-stream")
                    645:         self.REQUEST.RESPONSE.write(file(fn).read())
                    646:         
                    647:       
                    648:                 
                    649:     def hasParent(self):
                    650:         """returns true falls subfolder"""
                    651:       
1.81      casties   652:         if self.aq_parent.meta_type in self.folder_meta_type:
1.1       dwinter   653:             return True
                    654:         else:
                    655:             return False
                    656:         
                    657:     def getFolders(self):
                    658:         """get all subfolders"""
                    659:         ret=[]
1.81      casties   660:         folders=self.ZopeFind(self,obj_metatypes=self.folder_meta_type)
1.1       dwinter   661:         for folder in folders:
                    662:             ret.append((folder[1],
1.81      casties   663:                         len(self.ZopeFind(folder[1],obj_metatypes=self.folder_meta_type)),
                    664:                         len(self.ZopeFind(folder[1],obj_metatypes=self.file_meta_type))
1.1       dwinter   665:                         ))
                    666:         return ret
                    667:     
                    668:             
1.77      dwinter   669:     security.declareProtected('manage','index_html')
1.1       dwinter   670:     def index_html(self):
                    671:         """main"""
                    672:         ext=self.ZopeFind(self,obj_ids=["index.html"])
                    673:         if ext:
                    674:             return ext[0][1]()
                    675:         
                    676:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','CDLIFileFolderMain')).__of__(self)
                    677:         return pt()
                    678:     
1.22      dwinter   679:     
                    680: manage_addCDLIFileFolderForm=DTMLFile('dtml/folderAdd', globals())
                    681: 
                    682:     
                    683: def manage_addCDLIFileFolder(self, id, title='',
                    684:                      createPublic=0,
                    685:                      createUserF=0,
                    686:                      REQUEST=None):
                    687:     """Add a new Folder object with id *id*.
                    688: 
                    689:     If the 'createPublic' and 'createUserF' parameters are set to any true
                    690:     value, an 'index_html' and a 'UserFolder' objects are created respectively
                    691:     in the new folder.
                    692:     """
                    693:     ob=CDLIFileFolder()
                    694:     ob.id=str(id)
                    695:     ob.title=title
                    696:     self._setObject(id, ob)
                    697:     ob=self._getOb(id)
                    698: 
                    699:     checkPermission=getSecurityManager().checkPermission
                    700: 
                    701:     if createUserF:
                    702:         if not checkPermission('Add User Folders', ob):
                    703:             raise Unauthorized, (
                    704:                   'You are not authorized to add User Folders.'
                    705:                   )
                    706:         ob.manage_addUserFolder()
                    707: 
                    708:   
                    709:     if REQUEST is not None:
                    710:         return self.manage_main(self, REQUEST, update_menu=1)
                    711:     
                    712: class CDLIRoot(Folder):
                    713:     """main folder for cdli"""
                    714:     
                    715:     meta_type="CDLIRoot"
1.81      casties   716:     downloadCounterBaskets=0 # counts the current basket downloads if counter > 10 no downloads are possible
                    717:     
                    718:     file_catalog = 'CDLICatalog'
                    719:     
                    720:     # word splitter for search
                    721:     splitter = {'words':cdliSplitter.wordSplitter(),
                    722:                 'graphemes':cdliSplitter.graphemeSplitter()}
                    723:     
1.51      dwinter   724:     
1.102     dwinter   725:     def unicodify(self,txt):
                    726:         return unicodify(txt)
                    727:     def invalidateOldCacheVersion(self):
                    728:         """loescht die alte Version des Cache"""
                    729:         del self.v_tmpStore
                    730:         return "done"
                    731:     
1.86      dwinter   732:     def viewATF(self,id,RESPONSE):
                    733:         """view an Object"""
                    734:         ob = self.CDLICatalog({'title':id})
                    735:         logging.debug(ob[0].getObject().getLastVersion().absolute_url()+"/view")
                    736:         if len(ob)>0:
                    737:             RESPONSE.redirect(ob[0].getObject().getLastVersion().absolute_url()+"/view")
                    738:         return "not found"
                    739:     
                    740:     def history(self,id,RESPONSE):
                    741:         """view an Object"""
                    742:         ob = self.CDLICatalog({'title':id})
                    743:         if len(ob)>0:
                    744:             RESPONSE.redirect(ob[0].absolute_url+"/history")
                    745:         return "not found"
                    746:     
                    747: 
                    748:     def downloadLocked(self,id,RESPONSE):
                    749:         """view an Object"""
                    750:         ob = self.CDLICatalog({'title':id})
                    751:         if len(ob)>0:
                    752:             RESPONSE.redirect(ob[0].absolute_url+"/downloadLocked")
                    753:         return "not found"
                    754:     
                    755:     def download(self,id,RESPONSE):
                    756:         """view an Object"""
                    757:         ob = self.CDLICatalog({'title':id})
                    758:         if len(ob)>0:
                    759:             RESPONSE.redirect(ob[0].getLastVersion().absolute_url())
                    760:         return "not found"
                    761:     def addCDLIFileObjectForm(self,id,RESPONSE):
                    762:         """view an Object"""
                    763:         ob = self.CDLICatalog({'title':id})
                    764:         if len(ob)>0:
                    765:             RESPONSE.redirect(ob[0].absolute_url+"/addCDLIFileObjectForm")
                    766:         return "not found"
                    767:     
                    768:     def addVersionedFileObjectForm(self,id,RESPONSE):
                    769:         """view an Object"""
                    770:         ob = self.CDLICatalog({'title':id})
                    771:         if len(ob)>0:
                    772:             RESPONSE.redirect(ob[0].absolute_url+"/addVersionedFileObjectForm")
                    773:         return "not found"
                    774:     
                    775:     def unlock(self,id,RESPONSE):
                    776:         """view an Object"""
                    777:         ob = self.CDLICatalog({'title':id})
                    778:         if len(ob)>0:
                    779:             RESPONSE.redirect(ob[0].absolute_url+"/unlock")
                    780:         return "not found"
                    781:     
1.83      dwinter   782:     def getFileObject(self,fileId):
1.85      dwinter   783:         """get an object"""
1.108   ! dwinter   784:    if isinstance(fileId,CDLIFileObject): # support for old baskets
        !           785:        return fileId
1.83      dwinter   786:         x=self.v_files.get(fileId)
1.108   ! dwinter   787:         #logging.debug("getFileObj:"+repr(fileId))
1.83      dwinter   788:         return x
                    789:     
                    790:     def getFileObjectLastVersion(self,fileId):
1.85      dwinter   791:         """get an object"""
1.83      dwinter   792:         x=self.v_files_lastVersion.get(fileId)
1.95      dwinter   793:         #logging.debug("lastVersion: "+repr(x))
1.83      dwinter   794:         return x
                    795:     
1.85      dwinter   796:     def showFileIds(self):
                    797:         """showIds"""
                    798:         return self.v_file_ids
                    799:     
1.83      dwinter   800:     def generateFileBTree(self):
                    801:         """erzeuge einen Btree aus allen Files"""
                    802:         self.v_files = OOBTree()
                    803:         self.v_files_lastVersion = OOBTree()
                    804:         self.v_file_ids = Set()
                    805:         
                    806:         for x in self.CDLICatalog.searchResults():
                    807:             
                    808:             self.v_files.update({x.getId:x.getObject()})
                    809:             self.v_files_lastVersion.update({x.getId:x.getObject().getLastVersion()})
                    810:             self.v_file_ids.add(x.getId)
                    811:             logging.debug("add:"+x.getId+"XXX"+repr(x.getObject()))
                    812:         
1.85      dwinter   813:         return True
                    814:     
                    815:     
                    816:     def updateOrAddToFileBTree(self,obj):
                    817:         """update a BTree"""
                    818:         self.v_files.update({obj.getId():obj})
                    819:         self.v_files_lastVersion.update({obj.getId():obj.getLastVersion()})
                    820:         
                    821:         self.v_file_ids.add(obj.getId())
                    822:         logging.debug("update:"+obj.getId()+"XXX"+repr(obj))
                    823:         
                    824:     def deleteFromBTree(self,objId):
                    825:         """delete an obj"""
                    826:         self.v_files.pop(objId)
                    827:         self.v_files_lastVersion.pop(objId)
                    828:         self.v_file_ids.remove(objId)
                    829:         
                    830: 
                    831:  
1.73      dwinter   832:     def deleteFiles(self,ids):
1.81      casties   833:         """delete files"""
1.73      dwinter   834:         for id in ids:
                    835:             founds=self.CDLICatalog.search({'title':id.split(".")[0]})
                    836:             if founds:
1.81      casties   837:                 logging.debug("deleting %s"%founds)
1.73      dwinter   838:                 folder=founds[0].getObject().aq_parent #get the parent folder of the object
1.81      casties   839:                 logging.debug("deleting from %s"%folder)
                    840:                 cut=folder.delete([founds[0].getId]) #cut it out
                    841: 
1.73      dwinter   842: 
                    843: 
1.81      casties   844:     def searchText(self, query, index='graphemes'):
                    845:         """searches query in the fulltext index and returns a list of file ids/P-numbers"""
                    846:         # see also: http://www.plope.com/Books/2_7Edition/SearchingZCatalog.stx#2-13
                    847:         logging.debug("searchtext for '%s' in index %s"%(query,index))
                    848:         #import Products.ZCTextIndex.QueryParser
                    849:         #qp = QueryParser.QueryParser()
                    850:         #logging.debug()
                    851:         idxQuery = {index:{'query':query}}
                    852:         idx = getattr(self, self.file_catalog)
                    853:         # do search
                    854:         resultset = idx.search(query_request=idxQuery,sort_index='textid')
                    855:         # put only the P-Number in the result 
                    856:         results = [res.getId[:7] for res in resultset]
                    857:         logging.debug("searchtext: found %d texts"%len(results))
                    858:         return results
                    859: 
                    860: 
                    861:     def getFile(self, pnum):
                    862:         """get the translit file with the given pnum"""
                    863:         f = getattr(self, self.file_catalog).search({'textid':pnum})
                    864:         if not f:
                    865:             return ""
1.71      dwinter   866:         
1.81      casties   867:         return f[0].getObject().getData()
                    868:          
1.57      dwinter   869: 
1.74      dwinter   870:     def showFile(self,fileId,wholePage=False):
1.71      dwinter   871:         """show a file
                    872:         @param fileId: P-Number of the document to be displayed
                    873:         """
1.81      casties   874:         f=getattr(self, self.file_catalog).search({'textid':fileId})
1.51      dwinter   875:         if not f:
                    876:             return ""
                    877:         
1.74      dwinter   878:         if wholePage:
1.81      casties   879:             logging.debug("show whole page")
                    880:             return f[0].getObject().getContentObject().view()
1.74      dwinter   881:         else:
                    882:             return f[0].getObject().getLastVersionFormattedData()
1.55      dwinter   883:     
1.56      dwinter   884: 
1.81      casties   885:     def showWordInFile(self,fileId,word,indexName='graphemes',regExp=False,):
                    886:         """get lines with word from FileId"""
                    887:         logging.debug("showwordinfile word='%s' index=%s file=%s"%(word,indexName,fileId)) 
1.56      dwinter   888:         
1.81      casties   889:         file = formatAtfFullLineNum(self.getFile(fileId))
1.66      dwinter   890:         ret=[]
1.71      dwinter   891:         
1.81      casties   892:         # add whitespace before and whitespace and line-end to splitter bounds expressions
                    893:         bounds = self.splitter[indexName].bounds
                    894:         splitexp = "(%s|\s)(%%s)(%s|\s|\Z)"%(bounds,bounds)
                    895:         # clean word expression 
                    896:         # TODO: this should use QueryParser itself
                    897:         # take out double quotes
                    898:         word = word.replace('"','')
                    899:         # take out ignorable signs
                    900:         ignorable = self.splitter[indexName].ignorex
                    901:         word = ignorable.sub('', word)
                    902:         # compile into regexp objects and escape parens
                    903:         wordlist = [re.compile(splitexp%re.escape(w)) for w in word.split(' ')]
                    904:             
                    905:         for line in file.splitlines():
1.71      dwinter   906:             for word in wordlist:
1.81      casties   907:                 #logging.debug("showwordinfile: searching for %s in %s"%(word.pattern,ignoreable.sub('',line)))
                    908:                 if word.search(ignorable.sub('',line)):
                    909:                     line = formatAtfLineHtml(line)
                    910:                     ret.append(line)
                    911:                     break
                    912:                     
1.66      dwinter   913:         return ret
1.56      dwinter   914: 
1.81      casties   915:     
                    916:     def showWordInFiles(self,fileIds,word,indexName='graphemes',regExp=False):
                    917:         """
                    918:         get lines with word from all ids in list FileIds.
                    919:         returns dict with id:lines pairs.
                    920:         """
                    921:         logging.debug("showwordinfiles word='%s' index=%s file=%s"%(word,indexName,fileIds))
1.51      dwinter   922:         
1.81      casties   923:         return dict([(id,self.showWordInFile(id, word, indexName, regExp)) for id in fileIds])
                    924:     
                    925: 
                    926:     def tagWordInFile(self,fileId,word,indexName='graphemes',regExp=False):
                    927:         """get text with word highlighted from FileId"""
                    928:         logging.debug("tagwordinfile word='%s' index=%s file=%s"%(word,indexName,fileId)) 
                    929:         
                    930:         file=self.getFile(fileId)
                    931:         tagStart=u'<span class="found">'
                    932:         tagEnd=u'</span>'
                    933:         tagStr=tagStart + u'%%s' + tagEnd
1.66      dwinter   934:         ret=[]
1.71      dwinter   935:         
1.81      casties   936:         # add whitespace to splitter bounds expressions and compile into regexp object
                    937:         bounds = self.splitter[indexName].bounds
                    938:         wordsplit = re.compile("(%s|\s)"%bounds)
                    939:         # clean word expression 
                    940:         # TODO: this should use QueryParser itself
                    941:         word = word.replace('"','') # take out double quotes
                    942:         # take out ignoreable signs
                    943:         ignorable = self.splitter[indexName].ignorex
                    944:         word = ignorable.sub('', word)
                    945:         # split search terms by blanks
                    946:         words = word.split(' ')
                    947:         # split search terms again (for grapheme search with words)
                    948:         splitwords = dict(((w,self.splitter[indexName].process([w])) for w in words))
1.71      dwinter   949:             
1.81      casties   950:         for line in file.splitlines():
1.79      casties   951:             line = unicodify(line)
1.81      casties   952:             # ignore lemma and other lines
                    953:             if line.lstrip().startswith('#lem:'):
                    954:                 continue
                    955:             # ignore p-num line
                    956:             if line.startswith('&P'):
                    957:                 continue
                    958:             # ignore version lines
                    959:             if line.startswith('#version'):
                    960:                 continue
                    961:             # ignore atf type lines
                    962:             if line.startswith('#atf:'):
                    963:                 continue
                    964: 
                    965:             # first scan
                    966:             hitwords = []
                    967:             for w in words:
                    968:                 if ignorable.sub('',line).find(w) > -1:
                    969:                     # word is in line
                    970:                     # append split word for grapheme search with words
                    971:                     hitwords.extend(splitwords[w])
                    972:                     #hitwords.extend(wordsplit.split(w))
                    973:                    
                    974:             # examine hits closer
                    975:             if hitwords:
                    976:                 # split line into words
                    977:                 parts = wordsplit.split(line)
                    978:                 line = ""
                    979:                 for p in parts:
                    980:                     #logging.debug("tagwordinfile: searching for %s in %s"%(p,hitwords))
                    981:                     # reassemble line
                    982:                     if ignorable.sub('', p) in hitwords:
                    983:                         #logging.debug("tagwordinfile: found %s in %s"%(p,hitwords))
                    984:                         # this part was found
                    985:                         line += tagStart + formatAtfHtml(p) + tagEnd
                    986:                     else:
                    987:                         line += formatAtfHtml(p)
                    988:                 
                    989:             else:
                    990:                 # no hits
                    991:                 line = formatAtfHtml(line)
                    992:             
                    993:             ret.append(line)
                    994:                         
                    995:         return u'<br>\n'.join(ret)
                    996: 
1.66      dwinter   997: 
                    998: 
1.81      casties   999:     def tagWordInFiles(self,fileIds,word,indexName='graphemes',regExp=False):
                   1000:         """
                   1001:         get texts with highlighted word from all ids in list FileIds.
                   1002:         returns dict with id:text pairs.
                   1003:         """
                   1004:         logging.debug("tagwordinfiles word='%s' index=%s file=%s"%(word,indexName,fileIds)) 
                   1005:         return dict([(id,self.tagWordInFile(id, word, indexName, regExp)) for id in fileIds])
                   1006:     
1.56      dwinter  1007: 
1.82      casties  1008:     def getFileVersionList(self, pnum):
                   1009:         """get the version history as a list for the translit file with the given pnum"""
                   1010:         f = getattr(self, self.file_catalog).search({'textid':pnum})
                   1011:         if not f:
                   1012:             return []
                   1013:         
                   1014:         return f[0].getObject().getVersionList()
                   1015:          
                   1016: 
1.37      dwinter  1017:     def URLquote(self,str):
                   1018:         """quote url"""
                   1019:         return urllib.quote(str)
                   1020:     
                   1021:     def URLunquote(self,str):
                   1022:         """unquote url"""
                   1023:         return urllib.unquote(str)
                   1024:     
1.58      dwinter  1025:     def URLquote_plus(self,str):
                   1026:         """quote url"""
                   1027:         return urllib.quote_plus(str)
                   1028:     
                   1029:     def URLunquote_plus(self,str):
                   1030:         """unquote url"""
                   1031:         return urllib.unquote_plus(str)
                   1032:     
1.106     dwinter  1033:     def changeUserForPObjectFromFile(self,user,fname):
                   1034:         """aendere user fuer alle p in fiele"""
1.107     dwinter  1035:         pns = file(os.path.join(package_home(globals()),'inputs',fname),"r")
                   1036:         for p in pns.readlines():
                   1037:             p=p.lstrip().rstrip()
                   1038:             logging.info(str(p+".atf"))
                   1039:             pObj=self.getFileObject(p+".atf")
                   1040:             if pObj is not None:  
                   1041:                 logging.info(pObj)
                   1042:                 lv=pObj.getContentObject()
                   1043:                 logging.info("author:"+lv.author)
                   1044:                 lv.author=user
                   1045:                 lv.versionComment="XXXXXXX"
1.37      dwinter  1046:     
1.106     dwinter  1047:             
                   1048:         
                   1049:         
1.105     dwinter  1050:     def forceunlock(self,REQUEST=None,user=None):
1.26      dwinter  1051:         "break all locks"
                   1052:         ret=[]
1.105     dwinter  1053:         
1.26      dwinter  1054:         for f in self.ZopeFind(self,obj_metatypes="CDLI file",search_sub=1):
1.105     dwinter  1055:            un=f[1].forceunlock(user=user)
                   1056:            logging.info("check:"+f[0])
1.26      dwinter  1057:            if un and un !="":
                   1058:                ret.append((f[0],un))
1.46      dwinter  1059: 
1.105     dwinter  1060:         if REQUEST is not None:
                   1061:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','breakLockResponse.zpt')).__of__(self)
                   1062:            
                   1063:             return pt(ret=ret)
                   1064:         
1.61      dwinter  1065:         return ret
1.71      dwinter  1066:                                         
1.61      dwinter  1067: 
1.105     dwinter  1068:     def getLockedFiles(self,REQUEST=None,user=None):
                   1069:         """hole alle gesperrten files"""
                   1070:         ret={}
                   1071:     
                   1072:         for f in self.ZopeFind(self,obj_metatypes="CDLI file",search_sub=1):
                   1073:             lb = f[1].lockedBy
                   1074:             add=False
                   1075:             if (lb is not None) and (lb!=""):
                   1076:                
                   1077:                 if user is None:
                   1078:                     add=True
                   1079:                 else:
                   1080:                     if str(lb)==user:
                   1081:                         add=True
                   1082:                 if add==True:
                   1083:                     if not ret.has_key(lb):
                   1084:                         ret[lb]=[]
                   1085:                     ret[lb].append(f[0])
                   1086:         
                   1087:         
                   1088:         if REQUEST is not None:
                   1089:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','showlockResponse.zpt')).__of__(self)
                   1090:            
                   1091:             return pt(ret=ret)
                   1092:         
                   1093:         return ret
                   1094:         
1.26      dwinter  1095:     def getChangesByAuthor(self,author,n=100):
1.25      dwinter  1096:         """getChangesByAuthor"""
1.26      dwinter  1097:         zcat=self.CDLIObjectsCatalog
                   1098:         res=zcat({'lastEditor':author,
1.25      dwinter  1099:                      'sort_on':'getTime',
                   1100:                      'sort_order':'descending',
                   1101:                      'sort_limit':n})[:n ]
1.26      dwinter  1102:                        
                   1103:         return res
                   1104:     
                   1105:     def getChangesByAuthor_html(self,author,n=100):
                   1106:         """html output for changes by author"""
                   1107:         tmp={}
                   1108:         list=[]                         
                   1109:         for x in self.getChangesByAuthor(author):
                   1110:            nr=x.getObject().getVersionNumber()
                   1111:            id=x.getObject().aq_parent.getId()
                   1112:            #hinzufuegen, wenn Version neuer als die 
                   1113:            if tmp.get(id,(0,0))[1] < nr:
                   1114:                 tmp[id]=(x.getObject().aq_parent,nr)
                   1115: 
                   1116:      
1.45      dwinter  1117:         return self.cdli_main.findObjectsFromListWithVersion(list=tmp.values(),author=author)           
1.26      dwinter  1118:         
1.25      dwinter  1119:     def getLastChanges(self,n=100):
                   1120:         """get the last n changes""" 
                   1121:         n=int(n)                   
                   1122:         zcat=self.CDLICatalog
                   1123:         return zcat({'sort_on':'getLastChangeDate',
                   1124:                      'sort_order':'descending',
                   1125:                      'sort_limit':n})[:n ]
                   1126:      
                   1127:     
                   1128:     def getLastChanges_html(self,n=100):
                   1129:         """get the last n changes"""
                   1130:         list = [x.getId for x in self.getLastChanges(n)]
                   1131:         return self.cdli_main.findObjectsFromList(list=list,display=True)
                   1132:                                        
1.24      dwinter  1133:     def refreshTxt(self,txt="",threadName=None):
1.22      dwinter  1134:         """txt fuer refresh"""
                   1135:   
1.24      dwinter  1136:         return """ 2;url=%s?repeat=%s """%(self.absolute_url()+txt,threadName)
1.22      dwinter  1137: 
1.87      dwinter  1138:     def refreshTxtBasket(self,txt="",threadName=None):
                   1139:         """txt fuer refresh"""
                   1140:   
                   1141:         return """ 2;url=%s?repeat=%s """%(txt,threadName)
                   1142: 
1.22      dwinter  1143:     
1.24      dwinter  1144:     def getResult(self,threadName=None):
1.22      dwinter  1145:        """result of thread"""
                   1146:        try:
1.24      dwinter  1147:         return self._v_uploadATF[threadName].getResult()
1.22      dwinter  1148:        except:
                   1149:         return "One moment, please"
                   1150:     
1.24      dwinter  1151:         
                   1152:     def checkThreads(self):
                   1153:         """check threads"""
1.42      dwinter  1154:         ret="<html><body>"
                   1155:         for thread in threading.enumerate():
1.45      dwinter  1156:            ret+="<p>%s (%s): %s</p>"%(repr(thread),thread.getName(),thread.isAlive())
1.42      dwinter  1157:        
                   1158:         return ret
                   1159:                                        
                   1160:                                            
1.73      dwinter  1161:     def uploadATFRPC(self,data,username):
                   1162:         """upload an atffile via xml-rpc"""
                   1163:         uploader=uploadATFThread()
                   1164:         
                   1165:         #generate an random id for the upload object
                   1166:         from random import randint
                   1167:         if (not self.REQUEST.SESSION.get('idTmp',None)):
                   1168: 
                   1169:             idTmp=str(randint(0,1000000000))
                   1170:             self.REQUEST.SESSION['idTmp']=idTmp
                   1171:         else:
                   1172:             idTmp=self.REQUEST.SESSION.get('idTmp',None)
                   1173:             
                   1174:         
                   1175:         uploader.set(data,0,username,idTmp)
                   1176:         
                   1177:         stObj=uploader.run()
                   1178:         
                   1179:         processor=uploadATFfinallyThread()
                   1180:         
                   1181:         basketname=stObj.returnValue['basketNameFromFile']
                   1182:         
                   1183:         processor.set("uploadchanged",basketname=basketname,SESSION=stObj.returnValue,username=username,serverport=self.REQUEST['SERVER_PORT'])
                   1184:         
                   1185:         processor.run()
                   1186:         
                   1187:         
                   1188:         return generateXMLReturn(stObj.returnValue)
                   1189:         
1.22      dwinter  1190:     def uploadATF(self,repeat=None,upload=None,basketId=0,RESPONSE=None):
1.69      dwinter  1191:         """upload an atf file / basket file"""
1.22      dwinter  1192:         #self._v_uploadATF.returnValue=None
1.71      dwinter  1193:         
                   1194:         #generate an random id for the upload thread
1.60      dwinter  1195:         from random import randint
1.61      dwinter  1196:         if (not self.REQUEST.SESSION.get('idTmp',None)):
1.22      dwinter  1197: 
1.60      dwinter  1198:             idTmp=str(randint(0,1000000000))
                   1199:             self.REQUEST.SESSION['idTmp']=idTmp
                   1200:         else:
                   1201:             idTmp=self.REQUEST.SESSION.get('idTmp',None)
                   1202:             
1.71      dwinter  1203:     
1.22      dwinter  1204:         threadName=repeat
                   1205:         if not threadName or threadName=="":
1.71      dwinter  1206:             #new thread not called from the waiting page
1.22      dwinter  1207:             tmpVar=False
1.24      dwinter  1208:        
1.22      dwinter  1209:             thread=uploadATFThread()
1.24      dwinter  1210:             threadName=thread.getName()[0:]                                
1.36      dwinter  1211:             if (not hasattr(self,'_v_uploadATF')):
1.24      dwinter  1212:                    self._v_uploadATF={}
                   1213:                                        
                   1214:             self._v_uploadATF[threadName]=thread
1.22      dwinter  1215:             #self._xmltrans.start()
                   1216:             #thread=Thread(target=self._v_uploadATF)
1.60      dwinter  1217:             logging.info("set thread. extern")
                   1218:             self._v_uploadATF[threadName].set(upload,basketId,self.REQUEST['AUTHENTICATED_USER'],idTmp,serverport=self.REQUEST['SERVER_PORT'])
1.22      dwinter  1219:             #thread.start()
1.60      dwinter  1220:             logging.info("start thread. extern")
1.24      dwinter  1221:             self._v_uploadATF[threadName].start()
1.22      dwinter  1222: 
                   1223:             
1.24      dwinter  1224:             self.threadName=self._v_uploadATF[threadName].getName()[0:]
1.22      dwinter  1225:             wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   1226: 
                   1227:             if wait_template:
                   1228:                 return wait_template[0][1]()
                   1229:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
1.24      dwinter  1230:             return pt(txt='/uploadATF',threadName=threadName)
1.22      dwinter  1231:             #_v_xmltrans.run()
                   1232:             
                   1233:         else:
                   1234:             #recover thread, if lost
1.36      dwinter  1235:             if (not hasattr(self,'_v_uploadATF')):
1.24      dwinter  1236:                self._v_uploadATF={}
                   1237:             if not self._v_uploadATF.get(threadName,None):
1.22      dwinter  1238:                  for thread in threading.enumerate():
                   1239:                          if threadName == thread.getName():
1.24      dwinter  1240:                                        self._v_uploadATF[threadName]=thread
                   1241:                                        
1.60      dwinter  1242:             if self._v_uploadATF.get(threadName,None) and (not self._v_uploadATF[threadName].returnValue):
1.22      dwinter  1243:         
                   1244: 
                   1245:                 wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   1246:                 if wait_template:
                   1247:                         return wait_template[0][1]()
                   1248:                 
                   1249:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
                   1250: 
1.24      dwinter  1251:                 return pt(txt='/uploadATF',threadName=threadName)
1.22      dwinter  1252:                 
                   1253:             else:
1.60      dwinter  1254:                 tmp=getattr(self.temp_folder,idTmp).returnValue
1.71      dwinter  1255:  
1.22      dwinter  1256:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadCheck.zpt')).__of__(self)
1.39      dwinter  1257: 
1.47      dwinter  1258:                 return pt(changed=tmp['changed'],lockerrors=tmp['lockerrors'],errors=tmp['errors'],dir=tmp['dir'],newPs=tmp['newPs'],basketLen=tmp['basketLen'],numberOfFiles=tmp['numberOfFiles'],
1.22      dwinter  1259:                   basketNameFromId=tmp['basketNameFromId'],basketNameFromFile=tmp['basketNameFromFile'],basketId=tmp['basketId'])
1.30      dwinter  1260:                      
                   1261:     def redoUpload(self,threadName):
                   1262:        """redo the upload"""
                   1263:        tmp=self.cdli_main.tmpStore2[threadName]
                   1264:        pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadCheck.zpt')).__of__(self)
1.45      dwinter  1265:        return pt(changed=tmp['changed'],lockerrors=tmp['lockerrors'],errors=tmp['errors'],dir=tmp['dir'],newPs=tmp['newPs'],basketLen=tmp['basketLen'],numberOfFiles=tmp['numberOfFiles'],
1.30      dwinter  1266:                   basketNameFromId=tmp['basketNameFromId'],basketNameFromFile=tmp['basketNameFromFile'],basketId=tmp['basketId'])
                   1267:                  
1.22      dwinter  1268:     def uploadATFfinally(self,procedure='',comment="",basketname='',unlock=None,repeat=None,RESPONSE=None):
                   1269:         """nowupload the files"""
                   1270:        
                   1271:        
                   1272:        
                   1273:         threadName=repeat
                   1274:         if not threadName or threadName=="":
1.24      dwinter  1275:             thread=uploadATFfinallyThread()
                   1276:             threadName=thread.getName()[0:]
1.36      dwinter  1277: 
1.35      dwinter  1278:             if (not hasattr(self,'_v_uploadATF')):
1.46      dwinter  1279:                                 self._v_uploadATF={}
1.36      dwinter  1280: 
1.43      dwinter  1281: 
1.24      dwinter  1282:             self._v_uploadATF[threadName]=thread
1.22      dwinter  1283: 
1.60      dwinter  1284:             idTmp=self.REQUEST.SESSION['idTmp']
                   1285:             stObj=getattr(self.temp_folder,idTmp)
                   1286:             self._v_uploadATF[threadName].set(procedure,comment=comment,basketname=basketname,unlock=unlock,SESSION=stObj.returnValue,username=self.REQUEST['AUTHENTICATED_USER'],serverport=self.REQUEST['SERVER_PORT'])
1.22      dwinter  1287: 
1.24      dwinter  1288:             self._v_uploadATF[threadName].start()
1.22      dwinter  1289: 
                   1290:             
1.24      dwinter  1291:             
1.22      dwinter  1292:             wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   1293: 
                   1294:             if wait_template:
                   1295:                 return wait_template[0][1]()
                   1296:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
                   1297: 
1.24      dwinter  1298:             return pt(txt='/uploadATFfinally',threadName=threadName)
1.22      dwinter  1299:             #_v_xmltrans.run()
                   1300:         
                   1301:         else:
                   1302:             #recover thread, if lost
                   1303:             if not hasattr(self,'_v_uploadATF'):
1.24      dwinter  1304:                self._v_uploadATF={}
                   1305:             if not self._v_uploadATF.get(threadName,None):
1.22      dwinter  1306:                  for thread in threading.enumerate():
                   1307:                          if threadName == thread.getName():
1.24      dwinter  1308:                                        self._v_uploadATF[threadName]=thread
1.22      dwinter  1309:                                        
1.24      dwinter  1310:             if self._v_uploadATF.get(threadName,None) and (self._v_uploadATF[threadName] is not None) and (not self._v_uploadATF[threadName].end) :
1.22      dwinter  1311: 
                   1312:                 wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   1313:                 if wait_template:
                   1314:                         return wait_template[0][1]()
                   1315:                 
                   1316:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
1.24      dwinter  1317:                 return pt(txt='/uploadATFfinally',threadName=threadName)
1.22      dwinter  1318:             else:
1.85      dwinter  1319:               
                   1320:              
                   1321:               idTmp=self.REQUEST.SESSION['idTmp']
                   1322:               stObj=getattr(self.temp_folder,idTmp) 
1.60      dwinter  1323:               self.REQUEST.SESSION['idTmp']=None
1.85      dwinter  1324:              
                   1325:               #update changed
                   1326:               logging.debug("dir:"+repr(stObj.returnValue['changed']))
                   1327:               for x in stObj.returnValue['changed']:
                   1328:                     ob=self.CDLICatalog.search({'title':x[0]})
1.104     dwinter  1329:                     try:
                   1330:                         self.cdliRoot.updateOrAddToFileBTree(ob[0].getObject())
                   1331:                     except:
                   1332:                         logging.error("uploadATFfinally - cannot update Object %s Error: %s %s"%(ob[1],sys.exc_info()[0],sys.exc_info()[1]))
1.22      dwinter  1333:               if RESPONSE is not None:
                   1334:                   RESPONSE.redirect(self.absolute_url())
                   1335: 
1.49      dwinter  1336:     def importFiles(self,comment="",author="" ,folderName="/Users/dwinter/atf", files=None,ext=None):
1.1       dwinter  1337:         """import files"""
1.81      casties  1338:         logging.debug("importFiles folderName=%s files=%s ext=%s"%(folderName,files,ext))
1.22      dwinter  1339:         root=self.cdli_main
1.49      dwinter  1340:         count=0
1.3       dwinter  1341:         if not files:
                   1342:             files=os.listdir(folderName)
                   1343:             
1.1       dwinter  1344:         for f in files:
                   1345:             folder=f[0:3]
                   1346:             f2=f[0:5]
1.85      dwinter  1347:             
                   1348:             #check if main folder PXX already exists
1.22      dwinter  1349:             obj=self.ZopeFind(root,obj_ids=[folder])
1.81      casties  1350:             logging.debug("importFiles: folder=%s f2=%s obj=%s"%(folder,f2,obj)) 
1.19      dwinter  1351:             if ext:
1.65      dwinter  1352:                 ext.result="<p>adding: %s </p>"%f+ext.result
1.81      casties  1353: 
1.85      dwinter  1354:             
                   1355:             if not obj: # if not create it
1.22      dwinter  1356:                 manage_addCDLIFileFolder(root,folder,folder)
                   1357:                 fobj=getattr(root,folder)
1.58      dwinter  1358:                 #transaction.get().commit()                           
1.81      casties  1359: 
1.1       dwinter  1360:             else:
                   1361:                 fobj=obj[0][1]
                   1362:             
1.85      dwinter  1363:             #check IF PYYYYY already exist
1.1       dwinter  1364:             obj2=fobj.ZopeFind(fobj,obj_ids=[f2])
1.81      casties  1365:             logging.debug("importFiles: fobj=%s obj2=%s"%(fobj,obj2)) 
1.1       dwinter  1366:         
1.85      dwinter  1367:             if not obj2:# if not create it
1.1       dwinter  1368:                 manage_addCDLIFileFolder(fobj,f2,f2)
                   1369:                 fobj2=getattr(fobj,f2)
                   1370:         
                   1371:             else:
                   1372:                 fobj2=obj2[0][1]
                   1373:               
1.85      dwinter  1374:             # not add the file
1.48      dwinter  1375:             file2=os.path.join(folderName,f)  
1.1       dwinter  1376:             id=f
1.81      casties  1377:             logging.debug("importFiles: addCDLIFile fobj2=%s, f=%s file2=%s"%(fobj2,repr(f),repr(file2)))
                   1378:             fobj2.addFile(vC='',file=file(file2),author=author,newName=f)
1.66      dwinter  1379:             count+=1
1.85      dwinter  1380:             
                   1381:             #now add the file to the storage
                   1382:             ob = getattr(fobj2,f)
                   1383:             self.cdliRoot.updateOrAddToFileBTree(ob)
                   1384:             
1.81      casties  1385:             if count%100==0:
                   1386:                 logging.debug("importfiles: committing")
1.66      dwinter  1387:                 transaction.get().commit()
1.81      casties  1388: 
                   1389:         transaction.get().commit()
1.3       dwinter  1390:         return "ok"
1.22      dwinter  1391:          
                   1392: 
                   1393: manage_addCDLIRootForm=DTMLFile('dtml/rootAdd', globals())
1.1       dwinter  1394: 
                   1395:     
1.22      dwinter  1396: def manage_addCDLIRoot(self, id, title='',
1.1       dwinter  1397:                      createPublic=0,
                   1398:                      createUserF=0,
                   1399:                      REQUEST=None):
                   1400:     """Add a new Folder object with id *id*.
                   1401: 
                   1402:     If the 'createPublic' and 'createUserF' parameters are set to any true
                   1403:     value, an 'index_html' and a 'UserFolder' objects are created respectively
                   1404:     in the new folder.
                   1405:     """
1.22      dwinter  1406:     ob=CDLIRoot()
1.1       dwinter  1407:     ob.id=str(id)
                   1408:     ob.title=title
1.61      dwinter  1409:     try:
1.66      dwinter  1410:         self._setObject(id, ob)
1.61      dwinter  1411:     except:
1.66      dwinter  1412:         pass
1.1       dwinter  1413:     ob=self._getOb(id)
                   1414: 
                   1415:     checkPermission=getSecurityManager().checkPermission
                   1416: 
                   1417:     if createUserF:
                   1418:         if not checkPermission('Add User Folders', ob):
                   1419:             raise Unauthorized, (
                   1420:                   'You are not authorized to add User Folders.'
                   1421:                   )
                   1422:         ob.manage_addUserFolder()
                   1423: 
                   1424:   
                   1425:     if REQUEST is not None:
1.22      dwinter  1426:         return self.manage_main(self, REQUEST, update_menu=1)    
                   1427:  
1.105     dwinter  1428:  
                   1429: import cdli_basket
                   1430: 
                   1431: 
                   1432: # Die folgenden Klassen sollte nicht mehr aus diesem Paket benutzt werden, sondern direkt aus
                   1433: # cdli_basket importiert werden.
                   1434: class uploadATFfinallyThread(cdli_basket.uploadATFfinallyThread):
                   1435:     """depricates"""
                   1436:     pass
                   1437: 
                   1438: class tmpStore(cdli_basket.tmpStore):
                   1439:     """depricated"""
                   1440:     pass
                   1441: 
                   1442: class uploadATFThread(cdli_basket.uploadATFThread):
                   1443:     """depricated"""
                   1444:     pass
                   1445: 
                   1446: class CDLIBasketContainer(cdli_basket.CDLIBasketContainer):
                   1447:     """depricated"""
                   1448:     pass
                   1449: 
                   1450: class CDLIBasket(cdli_basket.CDLIBasket):
                   1451:     """depricated"""
                   1452:     pass
                   1453: 
                   1454: class CDLIBasketVersion(cdli_basket.CDLIBasketVersion):
                   1455:     """depricated"""
                   1456:     pass
                   1457: 
                   1458: class BasketContent(cdli_basket.BasketContent):
                   1459:     """depricated"""
                   1460:     pass
                   1461:     

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>