Annotation of cdli/cdli_files.py, revision 1.72

1.22      dwinter     1: """CDLI extensions of the filearchive"""    
1.47      dwinter     2: from Products.versionedFile.extVersionedFile import *
1.1       dwinter     3: from Products.ZCatalog.CatalogPathAwareness import CatalogAware
1.22      dwinter     4: from tempfile import mkstemp,mkdtemp    
1.1       dwinter     5: import os.path
                      6: import os
                      7: from types import *
1.3       dwinter     8: import urlparse
1.49      dwinter     9: import urllib
                     10: import cgi
1.4       dwinter    11: from OFS.OrderedFolder import OrderedFolder
                     12: from OFS.SimpleItem import SimpleItem
                     13: import time
1.12      dwinter    14: from OFS.Folder import manage_addFolder
                     15: import re
1.19      dwinter    16: from AccessControl import ClassSecurityInfo
                     17: from Acquisition import Implicit
1.39      dwinter    18: from Globals import Persistent
1.19      dwinter    19: from threading import Thread
                     20: from ZPublisher.HTTPRequest import HTTPRequest
                     21: from ZPublisher.HTTPResponse import HTTPResponse
                     22: from ZPublisher.BaseRequest import RequestContainer
1.20      dwinter    23: import threading
1.53      dwinter    24: from BTrees.OOBTree import OOBTree
1.57      dwinter    25: import logging
1.58      dwinter    26: import transaction
1.61      dwinter    27: import copy
1.66      dwinter    28: import codecs
1.22      dwinter    29: 
1.55      dwinter    30: def unique(s):
                     31:     """Return a list of the elements in s, but without duplicates.
                     32: 
                     33:     For example, unique([1,2,3,1,2,3]) is some permutation of [1,2,3],
                     34:     unique("abcabc") some permutation of ["a", "b", "c"], and
                     35:     unique(([1, 2], [2, 3], [1, 2])) some permutation of
                     36:     [[2, 3], [1, 2]].
                     37: 
                     38:     For best speed, all sequence elements should be hashable.  Then
                     39:     unique() will usually work in linear time.
                     40: 
                     41:     If not possible, the sequence elements should enjoy a total
                     42:     ordering, and if list(s).sort() doesn't raise TypeError it's
                     43:     assumed that they do enjoy a total ordering.  Then unique() will
                     44:     usually work in O(N*log2(N)) time.
                     45: 
                     46:     If that's not possible either, the sequence elements must support
                     47:     equality-testing.  Then unique() will usually work in quadratic
                     48:     time.
                     49:     (from the python cookbook)
                     50:     """
                     51: 
                     52:     n = len(s)
                     53:     if n == 0:
                     54:         return []
                     55: 
                     56:     # Try using a dict first, as that's the fastest and will usually
                     57:     # work.  If it doesn't work, it will usually fail quickly, so it
                     58:     # usually doesn't cost much to *try* it.  It requires that all the
                     59:     # sequence elements be hashable, and support equality comparison.
                     60:     u = {}
                     61:     try:
                     62:         for x in s:
                     63:             u[x] = 1
                     64:     except TypeError:
                     65:         del u  # move on to the next method
                     66:     else:
                     67:         return u.keys()
                     68: 
                     69:     # We can't hash all the elements.  Second fastest is to sort,
                     70:     # which brings the equal elements together; then duplicates are
                     71:     # easy to weed out in a single pass.
                     72:     # NOTE:  Python's list.sort() was designed to be efficient in the
                     73:     # presence of many duplicate elements.  This isn't true of all
                     74:     # sort functions in all languages or libraries, so this approach
                     75:     # is more effective in Python than it may be elsewhere.
                     76:     try:
                     77:         t = list(s)
                     78:         t.sort()
                     79:     except TypeError:
                     80:         del t  # move on to the next method
                     81:     else:
                     82:         assert n > 0
                     83:         last = t[0]
                     84:         lasti = i = 1
                     85:         while i < n:
                     86:             if t[i] != last:
                     87:                 t[lasti] = last = t[i]
                     88:                 lasti += 1
                     89:             i += 1
                     90:         return t[:lasti]
                     91: 
                     92:     # Brute force is all that's left.
                     93:     u = []
                     94:     for x in s:
                     95:         if x not in u:
                     96:             u.append(x)
                     97:     return u
                     98: 
                     99: 
1.39      dwinter   100: class BasketContent(SimpleItem):
                    101:     """classe fuer den Inhalt eines Baskets"""
                    102:     
                    103:     def __init__(self,content=[]):
                    104:         """content"""
                    105:         self.contentList=content[0:]
                    106:     
                    107:     def getContent(self):
                    108:         """get content"""
1.19      dwinter   109: 
1.39      dwinter   110:         return self.contentList
                    111:     
                    112:     def setContent(self,content):
                    113:         self.contentList=content[0:]
                    114:     
                    115:     def numberOfItems(self):
                    116:         """number"""
                    117:         
                    118:         return len(self.getContent())
                    119:         
                    120:     
1.19      dwinter   121: class uploadATFfinallyThread(Thread):
1.20      dwinter   122:     """class for adding uploaded filed (temporarily stored in the staging area at /tmp"""
                    123:     
1.19      dwinter   124:     def __init__(self):
1.20      dwinter   125:         """init for uploadATFfinallyThread"""
1.19      dwinter   126:         self.continueVar=True
                    127:         self.returnValue=None
                    128:         self.end=False
                    129:         Thread.__init__(self)
                    130:            
                    131:     def set(self,procedure,comment="",basketname='',unlock=None,SESSION=None,username=None,serverport="8080"):
1.20      dwinter   132:         """set start values for the thread"""
1.19      dwinter   133:         self.procedure=procedure
                    134:         self.comment=comment
                    135:         self.basketname=basketname
                    136:         self.unlock=unlock
                    137:         self.SESSION=SESSION
                    138:         self.username=username
                    139:         self.serverport=serverport
1.60      dwinter   140:        
1.19      dwinter   141:         
                    142:     def __call__(self):
1.20      dwinter   143:         """call of the thread (equals run)"""
1.19      dwinter   144:         self.run()
                    145:         return True
                    146:     
                    147:     def getContext(self, app,serverport="8080"):
1.20      dwinter   148:         """get the context within the ZODB"""
                    149:         
1.19      dwinter   150:         resp = HTTPResponse(stdout=None)
                    151:         env = {
                    152:             'SERVER_NAME':'localhost',
                    153:             'SERVER_PORT':serverport,
                    154:             'REQUEST_METHOD':'GET'
                    155:             }
                    156:         req = HTTPRequest(None, env, resp)
                    157:         return app.__of__(RequestContainer(REQUEST = req))
                    158:           
1.26      dwinter   159:         
1.19      dwinter   160:     def run(self):
1.20      dwinter   161:         """run"""
                    162:         
1.19      dwinter   163:         self.result=""
1.20      dwinter   164:         #find context within ZODB
1.19      dwinter   165:         from Zope import DB
                    166:         conn = DB.open()
                    167:         root = conn.root()
                    168:         app  = root['Application']
                    169:         ctx = self.getContext(app,serverport=self.serverport)
                    170: 
1.20      dwinter   171:         #add the files
1.19      dwinter   172:         self.uploadATFfinallyThread(ctx,self.procedure,comment=self.comment,basketname=self.basketname,unlock=self.unlock,SESSION=self.SESSION,username=self.username)
1.20      dwinter   173:         #commit the transactions
1.58      dwinter   174:         transaction.get().commit()
1.19      dwinter   175:         conn.close()
1.20      dwinter   176:         #set flag for end of this method
1.19      dwinter   177:         self.end=True
1.66      dwinter   178:         logging.info("ended")
                    179:         return True
1.19      dwinter   180:     
1.22      dwinter   181:     def __del__(self):
                    182:         """delete"""
                    183:         
                    184:         
                    185:     
1.19      dwinter   186:     def getResult(self):
1.20      dwinter   187:         """method for accessing result"""
                    188:         
1.19      dwinter   189:         return self.result
                    190:      
                    191:     def uploadATFfinallyThread(self,ctx,procedure,comment="",basketname='',unlock=None,RESPONSE=None,SESSION=None,username=None):
                    192:         """upload the files"""
1.20      dwinter   193:         #TODO: make this configurable, at the moment, rootFolder for cdli has to be cdliRoot
1.19      dwinter   194:         ctx2=ctx.cdliRoot
                    195:    
                    196:         self.result+="<h2>Start processing</h2>"
1.20      dwinter   197:         
                    198:         #shall I only upload the changed files?
1.19      dwinter   199:         if procedure=="uploadchanged":
1.66      dwinter   200:             changed=[x[0] for x in SESSION.get('changed',[])]
1.61      dwinter   201:             uploadFns=changed+SESSION.get('newPs',[])
1.19      dwinter   202:         
1.20      dwinter   203:         #or all
1.19      dwinter   204:         elif procedure=="uploadAll":
                    205:             uploadFns=[]
                    206:             for x in os.listdir(SESSION['tmpdir']):
1.45      dwinter   207:                 if not x in SESSION['lockerrors']:
1.19      dwinter   208:                     uploadFns.append(x)
1.20      dwinter   209:                     
                    210:         #or maybe nothing
1.19      dwinter   211:         elif procedure=="noupload":
                    212:                         return True
                    213:         else:
                    214:             uploadFns=[]
                    215:             
1.20      dwinter   216:         #do first the changed files    
1.65      dwinter   217:         i=0
1.19      dwinter   218:         for fn in uploadFns:
1.66      dwinter   219:             i+=1
1.19      dwinter   220:             founds=ctx2.CDLICatalog.search({'title':fn})
                    221:             if len(founds)>0:
                    222:                 SESSION['author']=str(username)
1.63      dwinter   223:                 self.result="<p>Changing : %s"%fn+self.result
1.49      dwinter   224:                 founds[0].getObject().manage_addCDLIFileObject('',comment,SESSION['author'],file=os.path.join(SESSION['tmpdir'],fn),from_tmp=True)
1.62      dwinter   225:             if i==200:
1.66      dwinter   226:                         i=0
                    227:                         transaction.get().commit()
                    228:                         logging.info("changing: do commit")
1.65      dwinter   229:         
                    230:         transaction.get().commit()
                    231:         logging.info("changing: last commit")
1.62      dwinter   232: 
1.20      dwinter   233:         #now add the new files        
1.19      dwinter   234:         newPs=SESSION['newPs']
                    235:         if len(newPs)>0:
                    236:             tmpDir=SESSION['tmpdir']
1.65      dwinter   237:             logging.info("adding start")
1.63      dwinter   238:             self.result="<p>Adding files</p>"+self.result
1.20      dwinter   239:             #TODO: make this configurable, at the moment base folder for the files has to be cdli_main
1.22      dwinter   240:             
                    241:             ctx2.importFiles(comment=comment,author=str(username) ,folderName=tmpDir, files=newPs,ext=self)
1.65      dwinter   242:             logging.info("adding finished")
1.19      dwinter   243:         
                    244:         
1.20      dwinter   245:         #unlock locked files?
1.19      dwinter   246:         if unlock:
1.65      dwinter   247:             logging.info("unlocking start")
1.63      dwinter   248:             self.result="<p>Unlock files</p>"+self.result
1.19      dwinter   249:             unlockFns=[]
                    250:             for x in os.listdir(SESSION['tmpdir']):
                    251:                     if not x in SESSION['errors']:
                    252:                         unlockFns.append(x)
1.65      dwinter   253:             logging.info("unlocking have now what to unlock")
                    254:                         
1.19      dwinter   255:             for fn in unlockFns:
1.65      dwinter   256:                 #logging.info("will unlock: %s"%fn)
1.19      dwinter   257:                 founds=ctx2.CDLICatalog.search({'title':fn})
1.65      dwinter   258:                 #logging.info("found it: %s"%repr(founds))
1.19      dwinter   259:                 if len(founds)>0:
1.65      dwinter   260:                     #logging.info("unlock: %s"%founds[0].getObject().getId())
1.19      dwinter   261:                     SESSION['author']=str(username)
                    262:                    
                    263:                     founds[0].getObject().lockedBy=""
1.65      dwinter   264:             logging.info("unlocking done")
1.19      dwinter   265:                     
1.65      dwinter   266:         #if a basketname is given, add files to the basket
1.19      dwinter   267:         if not (basketname ==''):
1.65      dwinter   268:             logging.info("add to basket %s"%basketname)
                    269:             self.result="<p>Add to basket</p>"+self.result
1.41      dwinter   270:             basketId=ctx2.basketContainer.getBasketIdfromName(basketname)
1.19      dwinter   271:             
                    272:             if not basketId: # create new basket
1.65      dwinter   273:                 logging.info("create basket %s"%basketname)
                    274:                 self.result="<p>Create a new basket</p>"+self.result
1.19      dwinter   275:                 ob=ctx2.basketContainer.addBasket(basketname)
                    276:                 basketId=ob.getId()
                    277:             basket=getattr(ctx2.basketContainer,str(basketId))
                    278:             ids=os.listdir(SESSION['tmpdir'])
                    279:             basket.addObjects(ids,deleteOld=True,username=str(username))    
                    280:                
                    281:         if RESPONSE is not None:
                    282:             RESPONSE.redirect(self.aq_parent.absolute_url())
                    283:         
                    284: 
1.65      dwinter   285:         logging.info("uploadfinally done")
1.19      dwinter   286:         return True
1.60      dwinter   287: 
                    288: class tmpStore(SimpleItem):
                    289:     """simple item"""
                    290:     meta_type="cdli_upload"
1.19      dwinter   291:     
1.60      dwinter   292:     def __init__(self,id):
                    293:         """init tmp"""
                    294:         self.id=id
                    295:         
1.19      dwinter   296: class uploadATFThread(Thread):
1.20      dwinter   297:     """class for checking the files befor uploading"""
1.19      dwinter   298:     
                    299:     def __init__(self):
1.20      dwinter   300:         """initialise"""
                    301:         
1.19      dwinter   302:         self.continueVar=True
                    303:         self.returnValue=None
                    304:         
                    305:         Thread.__init__(self)
                    306:         
                    307:         
1.60      dwinter   308:     def set(self,upload,basketId,username,idTmp,serverport="8080"):
1.20      dwinter   309:         """set start values for the thread"""
1.19      dwinter   310:         self.result=""
                    311:         self.upload=upload
                    312:         self.basketId=basketId
                    313:         self.username=username
                    314:         self.serverport=serverport
1.60      dwinter   315:         self.idTmp=idTmp
1.19      dwinter   316:         
                    317:     def __call__(self):
1.20      dwinter   318:         """call method """
1.19      dwinter   319:         self.run()
                    320:         return True
                    321:     
                    322:     def getContext(self, app,serverport="8080"):
1.20      dwinter   323:         """get the context within the ZODB"""
1.19      dwinter   324:         resp = HTTPResponse(stdout=None)
                    325:         env = {
                    326:             'SERVER_NAME':'localhost',
                    327:             'SERVER_PORT':serverport,
                    328:             'REQUEST_METHOD':'GET'
                    329:             }
                    330:         req = HTTPRequest(None, env, resp)
                    331:         return app.__of__(RequestContainer(REQUEST = req))
                    332:         
                    333:     def run(self):
1.60      dwinter   334:         idTmp=self.idTmp
1.19      dwinter   335:         self.result=""
1.20      dwinter   336:         #find context within ZODB
1.19      dwinter   337:         from Zope import DB
                    338:         conn = DB.open()
                    339:         root = conn.root()
                    340:         app  = root['Application']
                    341:         ctx = self.getContext(app,serverport=self.serverport)
1.60      dwinter   342:         logging.info("run intern")
1.63      dwinter   343:         try:
                    344:             ctx.temp_folder._setObject(idTmp,tmpStore(idTmp))
                    345:         except:
                    346:             logging.error("thread upload: %s %s"%sys.exc_info()[0:2])
                    347:             
1.60      dwinter   348:         logging.info("call thread intern")
                    349:         self.uploadATFThread(ctx,self.upload,idTmp,self.basketId)
1.24      dwinter   350:      
1.30      dwinter   351:         #ctx.cdliRoot.cdli_main.tmpStore2[self.getName()[0:]]=self.returnValue
1.58      dwinter   352:         
1.66      dwinter   353:         
1.58      dwinter   354:         transaction.get().commit()
1.49      dwinter   355:        
1.19      dwinter   356:         conn.close()
1.22      dwinter   357:         
1.19      dwinter   358:         
                    359:     def getResult(self):
1.20      dwinter   360:         """method for accessing result"""
1.19      dwinter   361:         return self.result
                    362:     
1.60      dwinter   363:     def uploadATFThread(self,ctx,upload,idTmp,basketId=0):
1.19      dwinter   364:         """upload an atf file"""
                    365:         #TODO: add comments
                    366:         #TODO: finish uploadATF
1.60      dwinter   367:         
                    368:         stObj=getattr(ctx.temp_folder,idTmp)
                    369:         logging.info("start, upload thread")
1.25      dwinter   370:         self.result="<html><body><h2>I got your file, start now to split it into single atf-files!</h2><p>"
                    371:     
1.20      dwinter   372:         #make sure that id is a string and not an integer
1.19      dwinter   373:         basketId=str(basketId)
                    374:         
1.20      dwinter   375:         #TODO: make this configurable, at the moment, rootFolder for cdli has to be cdliRoot
                    376:         ctx2=ctx.cdliRoot
1.19      dwinter   377:         
1.20      dwinter   378:         #get temporary file for staging the downloaded and splitted files
1.19      dwinter   379:         dir=mkdtemp()
1.20      dwinter   380:         
                    381:         
                    382:         changed=[] # changed files
                    383:         errors=[]  # files with errors
1.45      dwinter   384:         lockerrors=[]  # files with errors
                    385: 
1.20      dwinter   386:         newPs=[]   # new p filed
                    387:         psNotInCatalog=[] # files not in the catalog
                    388:         
                    389:         #split the uploadedd atf file
1.25      dwinter   390:         basketNameFromFile, numberOfFiles=splitatf(upload,dir,ext=self)
1.19      dwinter   391:         
1.20      dwinter   392:         #find basketId if not set
                    393:         
                    394:         #get active abaket
1.19      dwinter   395:         if basketId == '0':
                    396:             basketObj=ctx2.basketContainer.getActiveBasket()
                    397:             if basketObj:
                    398:                 basketId=basketObj.getId()
                    399:                 
1.45      dwinter   400:         #if there is no active basket and no basketid given, id is empty, else get besketname and length
1.19      dwinter   401:         if basketId == '0':
                    402:             basketNameFromId=""
                    403:             basketLen=0
                    404:         else:
                    405:             basketNameFromId=getattr(ctx2.basketContainer,basketId).title
                    406:             basketLen=getattr(ctx2.basketContainer,basketId).getLastVersion().numberOfItems()
                    407:             
1.60      dwinter   408:         logging.info("got the file, upload thread")
1.25      dwinter   409:         self.result+="""<html><body><h2>I got the files</h2><
                    410:                         p>I am computing the differences to the exisiting files</p>"""
1.20      dwinter   411:                                    
                    412:         #start to check the files
1.19      dwinter   413:         for fn in os.listdir(dir):
                    414:             
1.63      dwinter   415:             self.result="<p>process:%s</p>"%fn+self.result
1.19      dwinter   416:             
1.20      dwinter   417:             # check if file is in the catalog
                    418:             #TODO: checkCatalog is not implemented yet
1.19      dwinter   419:             if ctx2.cdli_main.checkCatalog(fn):
                    420:                 psNotInCatalog.append(fn)
                    421:                 
1.20      dwinter   422:             #check if p-file already at the server  
1.19      dwinter   423:             founds=ctx2.CDLICatalog.search({'title':fn})    
                    424:       
1.20      dwinter   425:             #if not than add filename to the list of newfiles
1.46      dwinter   426:             
                    427:             data=file(os.path.join(dir,fn)).read()
1.69      dwinter   428:             status,msg=checkFile(fn,data,dir)
                    429:             #status=True
                    430:             
                    431:             
1.46      dwinter   432:             if not status: # error
                    433:                 errors.append((fn,msg))
1.69      dwinter   434:             
1.46      dwinter   435:             else:
                    436:                 if len(founds)==0:
                    437:                     newPs.append(fn)
                    438: 
                    439:                 #if p file alread at the server    
                    440:                 for found in founds:
                    441:                     #analyse the differences to the actual file
                    442:                     obj=found.getObject()
                    443: 
                    444:                     if (not (str(obj.lockedBy))=='') and (not (str(obj.lockedBy)==str(self.username))):
1.63      dwinter   445:                                 lockerrors.append((fn,str(obj.lockedBy)))
1.46      dwinter   446:                     else:
                    447:                 
                    448:                         diffs=obj.diff(data)
                    449:                         if diffs[0]>0:
                    450:                             changed.append((obj,diffs)) #hochladen
1.31      dwinter   451: 
1.20      dwinter   452:         #ready, set the returnValues
1.19      dwinter   453:         self.result+="<h3>Done</h3></body></html>"
                    454:         
1.60      dwinter   455:         stObj.returnValue={}
1.19      dwinter   456:         
1.60      dwinter   457:         stObj.returnValue['errors']=errors
1.69      dwinter   458:         
1.60      dwinter   459:         stObj.returnValue['newPs']=newPs
                    460:         stObj.returnValue['tmpdir']=dir
                    461:         stObj.returnValue['basketLen']=basketLen
                    462:         stObj.returnValue['numberOfFiles']=numberOfFiles
                    463:         stObj.returnValue['basketNameFromId']=basketNameFromId
                    464:         stObj.returnValue['basketNameFromFile']=basketNameFromFile
                    465:         stObj.returnValue['basketId']=basketId
                    466:         stObj.returnValue['dir']=dir
1.61      dwinter   467:         #stObj.returnValue['changed']=copy.copy(changed)
                    468:         stObj.returnValue['changed']=[(x[0].getId(),x[1][0]) for x in changed]
                    469:         #stObj.returnValue['lockerrors']=[x[0].getId() for x in lockerrors]
1.63      dwinter   470:         stObj.returnValue['lockerrors']=[x for x in lockerrors]
1.60      dwinter   471:         self.returnValue=True
1.19      dwinter   472:         #ctx2.cdli_main.setTemp('v_uploadATF_returnValue',True)
                    473:     
1.63      dwinter   474:  
1.4       dwinter   475: class CDLIBasketContainer(OrderedFolder):
                    476:     """contains the baskets"""
                    477:     
                    478: 
1.9       dwinter   479:     security=ClassSecurityInfo()
1.4       dwinter   480:     meta_type="CDLIBasketContainer"
                    481:     
1.39      dwinter   482:     def upDateBaskets(self):
                    483:         """update content in to objects"""
                    484:         
                    485:         founds=self.ZopeFind(self,obj_metatypes=['CDLIBasketVersion'],search_sub=1)
                    486: 
                    487:         for found in founds:
                    488:             found[1].updateBasket()
                    489:         
1.32      dwinter   490:     security.declareProtected('manage','deleteBaskets')        
1.12      dwinter   491:     def deleteBaskets(self,ids=None):
                    492:         """delete baskets, i.e. move them into trash folder"""
                    493:         
                    494:         
                    495:         found=self.ZopeFind(self,obj_ids=['trash'])
                    496:         
                    497:         if len(found)<1:
                    498:             manage_addFolder(self, 'trash')
                    499:             trash=self._getOb('trash')
                    500:         else:
                    501:             trash=found[0][1]
                    502:         
                    503:         if type(ids) is not ListType:
                    504:             ids=[ids]
                    505:         cut=self.manage_cutObjects(ids)
                    506:         trash.manage_pasteObjects(cut)
                    507:         
1.32      dwinter   508:     security.declareProtected('manage','manageBaskets')       
1.72    ! dwinter   509:     def manageBaskets(self,submit,ids=None,basket1="",basket2="",REQUEST=None,RESPONSE=None):
1.12      dwinter   510:         """manage baskets, delete or copy"""
                    511:         if submit=="delete":
                    512:             self.deleteBaskets(ids)
                    513:         
1.72    ! dwinter   514:         elif submit=="join":
        !           515:             flag,msg=self.joinBasket("joinedBasket", ids)
        !           516:             logging.info("joining %s %s"%(flag,msg))
        !           517:             
        !           518:         elif submit=="subtract":
        !           519:             logging.info("BBBb %s %s"%(basket1,basket2))
        !           520:             flag,msg=self.subtractBasket("subtractedBasket", basket1,basket2)
        !           521:             logging.info("subtract %s %s"%(flag,msg))
1.12      dwinter   522:             
                    523:         if RESPONSE:
                    524:             RESPONSE.redirect(self.absolute_url())
1.32      dwinter   525:     
1.33      dwinter   526:     security.declareProtected('View','getBasketIdfromName')       
1.5       dwinter   527:     def getBasketIdfromName(self,basketname):
                    528:         """get id from name"""
                    529: 
                    530:         for basket in self.ZopeFind(self,obj_metatypes=["CDLIBasket"]):
                    531:             if basket[1].title==basketname:
                    532:                 return basket[0]
                    533:         else:
                    534:             None
1.9       dwinter   535:     
                    536:     security.declareProtected('manage','uploadBasket_html')        
                    537:             
1.4       dwinter   538:     def uploadBasket_html(self,basketId='0'):
                    539:         """upload an atf file, html form"""
1.9       dwinter   540:         
                    541: 
1.4       dwinter   542:         basketId=str(basketId)
                    543:         if not basketId=='0':
                    544:             basketName=getattr(self.basketContainer,basketId).title
                    545:         else:
                    546:             basketName=""
                    547:             
                    548:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadBasket_html.zpt')).__of__(self)
                    549:         return pt(basketId=basketId,basketName=basketName)
                    550:    
                    551: 
1.32      dwinter   552:     security.declareProtected('View','index_html')    
1.4       dwinter   553:     def index_html(self):
                    554:         """stanadard ansicht"""
1.9       dwinter   555:         
                    556: 
                    557: 
1.4       dwinter   558:         ext=self.ZopeFind(self,obj_ids=["index.html"])
                    559:         if ext:
                    560:             return ext[0][1]()
                    561:         
                    562:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','BasketContainerMain')).__of__(self)
                    563:         return pt()
                    564:     
                    565:     def getStorageFolderRoot(self):
                    566:         """root des storage folders"""
                    567:         return self.cdli_main
                    568:     
                    569:     def __init__(self,id,title):
                    570:         """ init basket container"""
                    571:         self.id=id
                    572:         self.title=title
                    573:      
1.51      dwinter   574:  
1.49      dwinter   575:     def getBasketsId(self):
                    576:         """get all baskets als klartext"""
1.51      dwinter   577:         
                    578:         ret=""
1.49      dwinter   579:         baskets=self.ZopeFind(self,obj_metatypes=['CDLIBasket'])
                    580:         for basket in baskets:
                    581:             com,user,time,values = basket[1].getContentIds()
                    582:             ret+= "BASKET:"+com+"\t"+user+"\t"+time+"\n"
                    583:             for x in values:
                    584:                 ret+= x[0]+"\t"+x[1]+"\n"
1.66      dwinter   585:                 return ret
1.49      dwinter   586: 
1.4       dwinter   587:     def getBaskets(self,sortField='title'):
                    588:         """get all baskets files"""
                    589: 
                    590:         def sortName(x,y):
                    591:             return cmp(x[1].title.lower(),y[1].title.lower())
                    592: 
                    593:         def sortDate(x,y):
                    594:             return cmp(y[1].getLastVersion().getTime(),x[1].getLastVersion().getTime())
                    595: 
                    596:         
                    597:         def sortComment(x,y):
                    598: 
                    599:         
                    600:             
                    601:              try:
                    602:                 xc=getattr(x[1],'comment','ZZZZZZZZZZZZZ').lower()
                    603:              except:
                    604:                 xc='ZZZZZZZZZZZZZ'.lower()
                    605:              try:
                    606:                 yc=getattr(y[1],'comment','ZZZZZZZZZZZZZ').lower()
                    607:              except:
                    608:                 yc='ZZZZZZZZZZZZZ'.lower()
                    609:     
                    610:     
                    611:              if (xc=='') or (xc=='ZZZZZZZZZZZZZ'.lower()):
                    612:                  
                    613:                  try:
                    614:                      xc=x[1].getLastVersion().getComment().lower()
                    615:                  except:
                    616:                      xc='ZZZZZZZZZZZZZ'.lower()
                    617:                      
                    618:              if (yc=='') or (yc=='ZZZZZZZZZZZZZ'.lower()):
                    619:                  try:
                    620:                      yc=y[1].getLastVersion().getComment().lower()
                    621:                  except:
                    622:                      yc='ZZZZZZZZZZZZZ'.lower()
                    623:     
                    624:              
                    625:                  return cmp(xc,yc)
                    626:         
                    627:         def sortAuthor(x,y):
                    628:             
                    629:             return cmp(x[1].getLastVersion().getUser().lower(),y[1].getLastVersion().getUser().lower())
                    630:         
                    631:         baskets=self.ZopeFind(self,obj_metatypes=['CDLIBasket'])
                    632:         
                    633:         
                    634:         if sortField=='title':
                    635:             baskets.sort(sortName)
                    636:         elif sortField=='date':
                    637:             baskets.sort(sortDate)
                    638:         elif sortField=='author':
                    639:             baskets.sort(sortAuthor)
                    640:         elif sortField=='comment':
                    641:             baskets.sort(sortComment)
1.39      dwinter   642: 
1.4       dwinter   643:         return baskets
1.72    ! dwinter   644:     
        !           645:         
        !           646:     def subtractBasket(self,newBasket,basket1,basket2):
        !           647:         """subtract basket2 from basket1 
        !           648:         (i.e. newbasket will contain alle elements of basket1 which are not in basket2), 
        !           649:         if basket2 contains files which are not in basket1, then theses files fill be ignored
        !           650:                
        !           651:         @param newbasket: name of the new basket
        !           652:         @param basket1: basket where basket2 will be subtracted from
        !           653:         @param basket2: see above
        !           654:       
        !           655:         """
        !           656:         logging.info("CCCCC %s %s"%(basket1,basket2))
        !           657:    
        !           658:         try:
        !           659:             newB=self.addBasket(newBasket)
        !           660:         except:
        !           661:             return False, "cannot create the new basket"
        !           662:         
        !           663:         
1.4       dwinter   664: 
1.72    ! dwinter   665:        
        !           666:      
        !           667:         bas2= getattr(self,basket2)            
        !           668:         bas2content=bas2.getContent()
        !           669:         bas2ids=[x[0] for x in bas2content]
        !           670:         
        !           671:        
        !           672:             
        !           673:         bas1= getattr(self,basket1)   
        !           674:         bas1content=bas1.getContent()
        !           675:         
        !           676:         
        !           677:         newBasketContent={}
        !           678:         
        !           679:         for id,version in bas1content:
        !           680:             if not (id in bas2ids):
        !           681:                 newBasketContent[id]=version
        !           682:         
        !           683:         username=self.getActualUserName()
        !           684:         
        !           685:         logging.info("sbc %s"%newBasketContent)
        !           686:         newB.addObjectsWithVersion(newBasketContent,username=username,catalog=self.CDLICatalog)
        !           687:         
        !           688:         return True, ""
        !           689:     
        !           690:             
        !           691:     def joinBasket(self,newBasket,oldBaskets):
1.71      dwinter   692:         """join two baskets
                    693:         @param newbasket: name of the new basket
                    694:         @param oldbaskets: list of baskets to be joined
                    695:         """
1.72    ! dwinter   696:         try:
        !           697:             newB=self.addBasket(newBasket)
        !           698:         except:
        !           699:             return False, "cannot create the new basket"
        !           700:         
        !           701:         newBasketContent={}
        !           702:         for ob in oldBaskets:
        !           703:             x= getattr(self,ob,None)
        !           704:             if x is None:
        !           705:                 return False, "cannot find basket: %s"%ob
        !           706:             
        !           707:             ids=x.getContent() # hole den Inhalt
        !           708:             
        !           709:             for id,version in ids:
        !           710:                 if newBasketContent.has_key(id): # p number gibt's schon
        !           711:                     newBasketContent[id]=max(newBasketContent[id],version) # speichere die groessere Versionsnumber
        !           712:                 else:
        !           713:                     newBasketContent[id]=version
        !           714:         username=self.getActualUserName()
        !           715:         
        !           716:         logging.info("nbc %s"%newBasketContent)
        !           717:         newB.addObjectsWithVersion(newBasketContent,username=username,catalog=self.CDLICatalog)
        !           718:         
        !           719:         return True, ""
        !           720:     
1.4       dwinter   721:     def getNewId(self):
                    722:         """createIds"""
                    723:         last=getattr(self,'last',0)
                    724:         last +=1
                    725:         while len(self.ZopeFind(self,obj_ids=[str(last)]))>0:
                    726:             last+=1
                    727:     
                    728:         self.last=last
                    729:         return last
                    730:     
1.6       dwinter   731:     def setActiveBasket(self,basketId,REQUEST=None):
1.4       dwinter   732:         """store active basketId in a cookie"""
                    733:         self.REQUEST.RESPONSE.setCookie("CDLIActiveBasket",basketId,path="/")
1.66      dwinter   734:         try:
                    735:             qs=cgi.parse_qs(REQUEST['QUERY_STRING'])
                    736:             del(qs['basketId'])
                    737:         except:
                    738:             qs={}
1.6       dwinter   739:         if REQUEST:
1.49      dwinter   740:             REQUEST.RESPONSE.redirect(REQUEST['URL1']+'?'+urllib.urlencode(qs))
1.6       dwinter   741:             
1.4       dwinter   742:     def getActiveBasket(self):
                    743:         """get active basket from cookie"""
                    744:         
                    745:         id= self.REQUEST.cookies.get('CDLIActiveBasket',None)
1.6       dwinter   746:         if id:
                    747:             obj=getattr(self,str(id),None)
                    748:         else:
                    749:             obj=None
1.4       dwinter   750:         return obj
1.6       dwinter   751:     
1.4       dwinter   752:     def getActualUserName(self):
                    753:         """get name of the actualuser"""
                    754:         return str(self.REQUEST['AUTHENTICATED_USER'])
                    755:     
                    756:     
                    757:     def addBasket(self,newBasketName):
                    758:         """add a new basket"""
                    759:         
                    760:         ob=manage_addCDLIBasket(self,newBasketName)
                    761:         return ob
1.72    ! dwinter   762: 
1.6       dwinter   763:     def storeInBasket(self,submit,ids=None,newBasketName=None,fromFileList=None,RESPONSE=None,REQUEST=None):
1.4       dwinter   764:         """store it"""
1.6       dwinter   765:         if not ids:
                    766:             ids=self.REQUEST.SESSION['fileIds']
                    767:             
1.4       dwinter   768:         if type(ids) is not ListType:
                    769:             ids=[ids]
                    770:         
1.6       dwinter   771:         if (submit.lower()=="store in new basket") or (submit.lower()=="new basket"):
1.4       dwinter   772:             basketRet=self.addBasket(newBasketName)
                    773:             self.setActiveBasket(basketRet.getId())
                    774:             basket=getattr(self,basketRet.getId())
1.6       dwinter   775:         elif (submit.lower()=="store in active basket") or (submit.lower()=="active basket"):
1.4       dwinter   776:             basket=self.getActiveBasket()
1.6       dwinter   777:         
                    778:         added=basket.addObjects(ids)
                    779:         back=self.REQUEST['HTTP_REFERER'].split("?")[0]+"?basketName="+basket.title+"&numberOfObjects="+str(added)
                    780:         
                    781:         
                    782:         if fromFileList:
1.7       dwinter   783: 
1.6       dwinter   784:             return self.cdli_main.findObjectsFromList(list=self.REQUEST.SESSION['fileIds'],basketName=basket.title,numberOfObjects=added)
                    785:        
1.4       dwinter   786:         if RESPONSE:
1.6       dwinter   787:             
1.4       dwinter   788:             RESPONSE.redirect(back)
                    789:             
1.6       dwinter   790:         return True
                    791:     
1.4       dwinter   792: def manage_addCDLIBasketContainerForm(self):
                    793:     """add the CDLIBasketContainer form"""
                    794:     pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','addCDLIBasketContainer.zpt')).__of__(self)
                    795:     return pt()
                    796: 
                    797: def manage_addCDLIBasketContainer(self,id,title,RESPONSE=None):
                    798:     """add the basket"""
                    799:     ob=CDLIBasketContainer(id,title)
                    800:     
                    801:     self._setObject(id, ob)
                    802:     
                    803:     if RESPONSE is not None:
                    804:         RESPONSE.redirect('manage_main')
                    805: 
1.5       dwinter   806: class CDLIBasket(Folder,CatalogAware):
1.4       dwinter   807:     """basket"""
                    808:     
                    809:     meta_type="CDLIBasket"
1.5       dwinter   810:     default_catalog="CDLIBasketCatalog"
1.4       dwinter   811:     
1.39      dwinter   812: 
1.4       dwinter   813:     def getFile(self,obj):
                    814:         return obj[1]
                    815:     
                    816:     def getFileLastVersion(self,obj):
                    817:         return obj[0]
                    818:     
1.5       dwinter   819:     def getFileNamesInLastVersion(self):
                    820:         """get content of the last version as list"""
                    821:         
                    822:         return [x[1].getId() for x in self.getLastVersion().getContent()]
                    823:     
1.37      dwinter   824: 
1.4       dwinter   825:     def isActual(self,obj):
                    826:         """teste ob im basket die aktuelle version ist"""
                    827:         actualNo=obj[1].getLastVersion().getVersionNumber()
                    828:         storedNo=obj[0].getVersionNumber()
1.12      dwinter   829:         
                    830:         founds=self.CDLICatalog.search({'title':obj[0].getId()})
1.37      dwinter   831:         if len(founds)>0:
                    832:             actualNo=founds[0].getObject().getLastVersion().getVersionNumber()
                    833:             
1.12      dwinter   834:         if len(founds)>0 and founds[0].getObject().aq_parent.getId()==".trash":
                    835:             return False, -1
                    836:         
1.4       dwinter   837:         if actualNo==storedNo:
1.12      dwinter   838:             return True , 0
1.4       dwinter   839:         else:
1.12      dwinter   840:             return False, actualNo
1.4       dwinter   841:         
                    842:     def history(self):
                    843:         """history"""  
                    844: 
                    845:         ext=self.ZopeFind(self.aq_parent,obj_ids=["history_template.html"])
                    846:         if ext:
                    847:             return getattr(self,ext[0][1].getId())()
                    848:         
                    849:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','BasketHistory')).__of__(self)
                    850:         return pt()
                    851:     
                    852:     def getStorageFolderRoot(self):
                    853:         """root des storage folders"""
                    854:         return self.aq_parent.cdli_main
                    855:     
                    856:     def __init__(self,id,title,shortDescription="",comment=""):
                    857:         """init a CDLIBasket"""
                    858:         
                    859:         self.id=id
                    860:         self.title=title
                    861:         self.shortDescription=shortDescription
                    862:         self.comment=comment
                    863:  
1.72    ! dwinter   864:     def getActualUserName(self):
        !           865:         """get name of the actualuser"""
        !           866:        
        !           867:         return str(self.REQUEST['AUTHENTICATED_USER'])
        !           868:   
1.4       dwinter   869:            
                    870:     def getLastVersion(self):
                    871:         """hole letzte version"""
1.39      dwinter   872: 
                    873:         ids=[]
                    874:         idsTmp= self.objectIds()
                    875:         for x in idsTmp:
                    876:             try:
                    877:                 ids.append(int(x))
                    878:             except:
                    879:                 pass
1.4       dwinter   880:         ids.sort()
1.39      dwinter   881:       
1.4       dwinter   882:         if len(ids)==0:
                    883:             return None
                    884:         else:    
                    885:             ob=getattr(self,str(ids[-1]))
1.39      dwinter   886: 
                    887:             
1.4       dwinter   888:             return ob
                    889:    
                    890:     def getVersions(self):
                    891:         """get versions"""
                    892:         versions=self.ZopeFind(self,obj_metatypes=["CDLIBasketVersion"])
                    893:         return versions
                    894: 
                    895:    
1.37      dwinter   896:     def updateObjects(self,ids,RESPONSE=None,REQUEST=None):
                    897:         """update ids, ids not in the basket the add"""
                    898:         if type(ids) is not ListType:
                    899:             ids=[ids]
                    900:        
                    901:         lastVersion=self.getLastVersion() 
1.39      dwinter   902:         oldContent=lastVersion.content.getContent()
1.37      dwinter   903:         newContent=[]
                    904:         
                    905:         #first copy the old
                    906:         for obj in oldContent:
                    907:             if obj[1].getId() not in ids:
                    908:                 newContent.append(obj)
                    909:         #now add the new
                    910:                
                    911:         for id in ids:
                    912:             founds=self.CDLICatalog.search({'title':id})
                    913: 
                    914:             for found in founds:
                    915:                 if found.getObject() not in oldContent:
                    916:                     #TODO: was passiert wenn, man eine Object dazufŸgt, das schon da ist aber eine neuere version
                    917:                     newContent.append((found.getObject().getLastVersion(),found.getObject()))
                    918:         
                    919: 
                    920:         content=newContent 
                    921:         user=self.getActualUserName()
                    922:         
                    923:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=newContent)
                    924:         
1.38      dwinter   925:         obj=self._getOb(ob.getId())
1.37      dwinter   926:         if RESPONSE:
1.38      dwinter   927:            
1.37      dwinter   928:             RESPONSE.redirect(obj.absolute_url())
1.38      dwinter   929:         
                    930:         return obj
                    931:     
1.72    ! dwinter   932:     def addObjectsWithVersion(self,ids,deleteOld=None,username=None,catalog=None):
        !           933:         """generate a new version of the basket with objects added, 
        !           934:         hier wird jedoch nicht die letzte Version jedes Files hinzugefuegt, s
        !           935:         ondern ids is ein Tupel mit der Id (d.h. der p-number) und der Versionsnummer.
        !           936:         """
        !           937:         logging.info("add to basket (%s)"%(self.getId()))
        !           938:         lastVersion=self.getLastVersion()
        !           939:         
        !           940:         if not catalog:
        !           941:             catalog=self.CDLICatalog
        !           942:             
        !           943:         if lastVersion is None:
        !           944:             oldContent=[]
        !           945:         else:
        !           946:             oldContent=lastVersion.content.getContent()
        !           947: 
        !           948:         if deleteOld:
        !           949:             oldContent=[]
        !           950: 
        !           951:         newContent=[]
        !           952:         added=0
        !           953:        
        !           954:         for id,version in ids.iteritems():
        !           955:             logging.info("adding %s %s"%(id,version))
        !           956:             id=id.split(".")[0] # title nur die pnumber ohne atf
        !           957:            
        !           958:             try:
        !           959:                 founds=catalog.search({'title':id})
        !           960:             except:
        !           961:                 founds=[]
        !           962:             logging.info(" found %s "%(founds))
        !           963:             for found in founds:
        !           964:                 if found.getObject() not in oldContent:
        !           965:                  
        !           966:                     #TODO: was passiert wenn, man eine Object dazufŸgt, das schon da ist aber eine neuere version
        !           967:                     newContent.append((found.getObject().getVersions()[version-1][1],found.getObject()))
        !           968:                     added+=1
        !           969: 
        !           970:         content=oldContent+newContent
        !           971:         if not username:
        !           972:             logging.error("XXXXXXXXXXX %s"%repr(self))
        !           973:             user=self.getActualUserName()
        !           974:         else:
        !           975:             user = username
        !           976:             
        !           977:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=content)
        !           978:         logging.info("add to basket (%s) done"%(self.getId()))
        !           979:         return added
        !           980:     
        !           981:     
1.19      dwinter   982:     def addObjects(self,ids,deleteOld=None,username=None):
1.4       dwinter   983:         """generate a new version of the basket with objects added"""
1.65      dwinter   984:         logging.info("add to basket (%s)"%(self.getId()))
1.4       dwinter   985:         lastVersion=self.getLastVersion()
                    986:         
                    987:         if lastVersion is None:
                    988:             oldContent=[]
                    989:         else:
1.39      dwinter   990:             oldContent=lastVersion.content.getContent()
1.4       dwinter   991: 
                    992:         if deleteOld:
                    993:             oldContent=[]
                    994: 
                    995:         newContent=[]
1.6       dwinter   996:         added=0
1.4       dwinter   997:         for id in ids:
1.65      dwinter   998:             try:
                    999:                 founds=self.CDLICatalog.search({'title':id})
                   1000:             except:
                   1001:                 founds=[]
                   1002:            
1.4       dwinter  1003:             for found in founds:
                   1004:                 if found.getObject() not in oldContent:
                   1005:                     #TODO: was passiert wenn, man eine Object dazufŸgt, das schon da ist aber eine neuere version
                   1006:                     newContent.append((found.getObject().getLastVersion(),found.getObject()))
1.6       dwinter  1007:                     added+=1
1.4       dwinter  1008: 
                   1009:         content=oldContent+newContent
1.19      dwinter  1010:         if not username:
                   1011:             user=self.getActualUserName()
                   1012:         else:
                   1013:             user = username
                   1014:             
1.4       dwinter  1015:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=content)
1.65      dwinter  1016:         logging.info("add to basket (%s) done"%(self.getId()))
1.6       dwinter  1017:         return added
1.4       dwinter  1018:     
1.51      dwinter  1019:     
                   1020:                 
1.72    ! dwinter  1021:     def getContent(self):
        !          1022:         """print content"""
        !          1023:         ret=[]
        !          1024:         
        !          1025:         lv=self.getLastVersion()
        !          1026:         for obj in lv.content.getContent():
        !          1027:             logging.info("XXXXXXXXXX %s"%repr(obj))
        !          1028:             ret.append((obj[1].getId(),obj[0].versionNumber))
        !          1029:             
        !          1030:         return ret
        !          1031:         
1.49      dwinter  1032:     def getContentIds(self):
                   1033:         """print basket content"""
                   1034:         ret=[]
                   1035:         lv=self.getLastVersion()
1.51      dwinter  1036:         for obj in lv.content.getContent():
1.49      dwinter  1037:             ret.append((obj[0].getId(),obj[1].getId()))
                   1038:         
                   1039:         
                   1040:         return lv.getComment(),lv.getUser(),lv.getTime(),ret
                   1041: 
1.37      dwinter  1042:     def changeBasket(self,ids,submit,RESPONSE=None,REQUEST=None):
                   1043:         """change a basket"""
                   1044:         if submit=="update":
                   1045:             return self.updateObjects(ids,RESPONSE=RESPONSE,REQUEST=REQUEST)
                   1046:         elif submit=="delete":
                   1047:             return self.deleteObjects(ids,RESPONSE=RESPONSE,REQUEST=REQUEST)
                   1048:             
1.12      dwinter  1049:     def deleteObjects(self,ids,RESPONSE=None,REQUEST=None):
1.4       dwinter  1050:         """delete objects"""
1.12      dwinter  1051:         
                   1052:         if type(ids) is not ListType:
                   1053:             ids=[ids]
                   1054:        
                   1055:         lastVersion=self.getLastVersion() 
1.39      dwinter  1056:         oldContent=lastVersion.content.getContent()
1.12      dwinter  1057:         newContent=[]
                   1058:         for obj in oldContent:
                   1059:             if obj[1].getId() not in ids:
                   1060:                 newContent.append(obj)
                   1061:         
                   1062:                 
                   1063:         user=self.getActualUserName()
                   1064:         
                   1065:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=newContent)
                   1066:         
                   1067:         if RESPONSE:
                   1068:             obj=self._getOb(ob.getId())
                   1069:             RESPONSE.redirect(obj.absolute_url())
1.4       dwinter  1070:         
                   1071: def manage_addCDLIBasketForm(self):
                   1072:     """add the CDLIBasketContainer form"""
                   1073:     pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','addCDLIBasket.zpt')).__of__(self)
                   1074:     return pt()
                   1075: 
                   1076: def manage_addCDLIBasket(self,title,shortDescription="",comment="",RESPONSE=None):
                   1077:     """add the basket"""
                   1078:     
                   1079:     id=str(self.getNewId())
                   1080:     
                   1081:     ob=CDLIBasket(id,title,shortDescription,comment)
                   1082:     
                   1083:     self._setObject(id, ob)
                   1084:     
                   1085:     if RESPONSE is not None:
                   1086:         RESPONSE.redirect('manage_main')
                   1087:     else:
                   1088:         return ob
                   1089: 
1.39      dwinter  1090: class CDLIBasketVersion(Implicit,Persistent,Folder):
1.4       dwinter  1091:     """version of a basket"""
                   1092:     
                   1093:     meta_type="CDLIBasketVersion"
1.32      dwinter  1094:     security=ClassSecurityInfo()
1.4       dwinter  1095:     
1.39      dwinter  1096:     def updateBasket(self):
                   1097:         """update"""
                   1098:         try:
                   1099:             self._setObject('content',BasketContent(self.basketContent))
                   1100:         except:
                   1101:             try:
                   1102:                 if len(self.basketContent)>0:
                   1103:                     self.content.setContent(self.basketContent)
                   1104:             except:
                   1105:                 print "error",self.getId(),self.aq_parent.getId()
                   1106:         self.basketContent=[]
                   1107: 
                   1108:         
1.37      dwinter  1109:     def containsNonActualFiles(self):
                   1110:         """returns True if basket contains one or more non current files"""
                   1111:         
                   1112:         objs=self.getContent()
                   1113:         for obj in objs:
                   1114:             if not self.isActual(obj)[0]:
                   1115:                 return True
                   1116:         return False
                   1117:     
1.72    ! dwinter  1118:     def downloadListOfPnumbers(self):
        !          1119:         """download pnumbers of the basket as list"""
        !          1120:         
        !          1121:         basket_name=self.aq_parent.title
        !          1122:         
        !          1123:         ids=self.getContent() # get the list of objects
        !          1124:         logging.error(ids)
        !          1125:         ret="\n".join([x[1].getId().split(".")[0] for x in ids])
        !          1126:         
        !          1127:         self.REQUEST.RESPONSE.setHeader("Content-Disposition","""attachement; filename="%s.txt" """%basket_name)
        !          1128:         self.REQUEST.RESPONSE.setHeader("Content-Type","application/octet-stream")
        !          1129:         length=len(ret)
        !          1130:         self.REQUEST.RESPONSE.setHeader("Content-Length",length)
        !          1131:         self.REQUEST.RESPONSE.write(ret)    
        !          1132:         
1.32      dwinter  1133:     security.declareProtected('View','downloadObjectsAsOneFile')
1.37      dwinter  1134:     def downloadObjectsAsOneFile(self,lock=None,procedure=None,REQUEST=None,check="yes",current="no"):
1.4       dwinter  1135:         """download all selected files in one file"""
1.46      dwinter  1136:         
                   1137:         if self.temp_folder.downloadCounterBaskets > 10000:
                   1138:             return """I am sorry, currently the server has to many requests for downloads, please come back later!"""
1.45      dwinter  1139: 
                   1140: 
1.37      dwinter  1141:         if (check=="yes") and self.containsNonActualFiles():
                   1142:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','downloadObjectAsOneFile_check.zpt')).__of__(self)
1.46      dwinter  1143:             
1.37      dwinter  1144:             return pt(lock=lock)
                   1145:             
1.46      dwinter  1146:         else:
                   1147:             
                   1148:             return self.downloadObjectsAsOneFileFinally(lock=lock,procedure=procedure,REQUEST=REQUEST,current="no")
                   1149:         
1.45      dwinter  1150:     def downloadObjectsAsOneFileFinally(self,lock=None,procedure=None,REQUEST=None,current="no"):
1.46      dwinter  1151:         """print do the download"""
1.45      dwinter  1152: 
1.46      dwinter  1153:         ret=""
1.4       dwinter  1154:         lockedObjects={}
                   1155: 
1.46      dwinter  1156:         self.temp_folder.downloadCounterBaskets+=1 
                   1157:         self._p_changed=1
1.59      dwinter  1158:         transaction.get().commit()       
1.45      dwinter  1159:     
1.4       dwinter  1160:         if lock:
                   1161:             
                   1162:             if str(self.REQUEST['AUTHENTICATED_USER'])=='Anonymous User':
1.46      dwinter  1163:                 self.temp_folder.downloadCounterBaskets-=1 
                   1164:                 self._p_changed=1
1.58      dwinter  1165:                 transaction.get().commit()      
1.46      dwinter  1166:                 self.temp_folder.downloadCounterBaskets-=1 
                   1167:                 self._p_changed=1
1.58      dwinter  1168:                 transaction.get().commit()      
1.4       dwinter  1169:                 return "please login first"
                   1170: 
                   1171:             #check if a locked object exist in the basket.
                   1172:             lockedObjects={}
1.39      dwinter  1173:             for object in self.content.getContent():
1.4       dwinter  1174: 
1.63      dwinter  1175:                 if (not str(object[1].lockedBy)=="") and (not (str(object[1].lockedBy)==str(self.REQUEST['AUTHENTICATED_USER']))):
1.4       dwinter  1176:                     lockedObjects[object[1].title]=repr(object[1].lockedBy)
                   1177:                    
                   1178:                     
                   1179:             keys=lockedObjects.keys()
                   1180:             
                   1181:             
                   1182:             if len(keys)>0 and (not procedure):
                   1183:                 self.REQUEST.SESSION['lockedObjects']=lockedObjects
                   1184:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','lockedObjects.zpt')).__of__(self)
1.45      dwinter  1185:                 
1.46      dwinter  1186:                 self.temp_folder.downloadCounterBaskets-=1 
                   1187:                 self._p_changed=1
1.58      dwinter  1188:                 transaction.get().commit()      
1.45      dwinter  1189: 
1.46      dwinter  1190:                 return pt()
1.4       dwinter  1191:          
                   1192:             elif not procedure: #keine fails gesperrt dann alle donwloaden
                   1193:                 procedure="downloadAll" 
                   1194:         
1.46      dwinter  1195:         
1.45      dwinter  1196: 
1.4       dwinter  1197: 
1.39      dwinter  1198:         for object in self.content.getContent():
1.45      dwinter  1199:     
1.4       dwinter  1200:                 if (procedure=="downloadAll") or (object[1].lockedBy=='') or (object[1].lockedBy==self.REQUEST['AUTHENTICATED_USER']):
1.37      dwinter  1201:                     if current=="no": #version as they are in the basket
1.49      dwinter  1202:                         ret+=str(object[0].getData())+"\n"
1.37      dwinter  1203:                     elif current=="yes":
                   1204:                         #search current object
                   1205:                         founds=self.CDLICatalog.search({'title':object[0].getId()})
                   1206:                         if len(founds)>0:      
1.49      dwinter  1207:                             ret+=str(founds[0].getObject().getLastVersion().getData())+"\n"
1.37      dwinter  1208:                             
1.4       dwinter  1209:                 if lock and object[1].lockedBy=='':
                   1210:                     object[1].lockedBy=self.REQUEST['AUTHENTICATED_USER']
                   1211:         basket_name=self.aq_parent.title+"_V"+self.getId()
                   1212:         
                   1213:         #write basketname to header of atf file
1.45      dwinter  1214:         ret="#basket: %s\n"%basket_name+ret
                   1215: 
1.46      dwinter  1216:         self.temp_folder.downloadCounterBaskets-=1 
                   1217:         self._p_changed=1
1.58      dwinter  1218:         transaction.get().commit()      
1.4       dwinter  1219:         
                   1220:         self.REQUEST.RESPONSE.setHeader("Content-Disposition","""attachement; filename="%s.atf" """%basket_name)
                   1221:         self.REQUEST.RESPONSE.setHeader("Content-Type","application/octet-stream")
                   1222:         length=len(ret)
                   1223:         self.REQUEST.RESPONSE.setHeader("Content-Length",length)
                   1224:         self.REQUEST.RESPONSE.write(ret)    
1.46      dwinter  1225:         return True
1.4       dwinter  1226:         
                   1227:     def numberOfItems(self):
                   1228:         """return anzahl der elemente im basket"""
1.39      dwinter  1229:         return self.content.numberOfItems()
1.4       dwinter  1230:     
                   1231:     def getTime(self):
                   1232:         """getTime"""
                   1233:         #return self.bobobase_modification_time().ISO()
                   1234:       
                   1235:         if hasattr(self,'time'):
                   1236:             return time.strftime("%Y-%m-%d %H:%M:%S",self.time)
                   1237:         elif hasattr(self,'timefixed'):
                   1238:             return self.timefixed
                   1239:         else:
                   1240:             setattr(self,'timefixed',self.bobobase_modification_time().ISO())
                   1241:             return self.bobobase_modification_time().ISO()
                   1242:     
                   1243:     def getContent(self):
                   1244:         """get Basket Content"""
1.39      dwinter  1245:         return self.content.getContent()
1.4       dwinter  1246: 
                   1247:     
                   1248:     def __init__(self,id,user,comment="",basketContent=[]):
                   1249:         """ init a basket version"""
                   1250:         self.id=id
                   1251:         self.coment=comment
1.39      dwinter  1252:         self._setObject('content',BasketContent(basketContent))
                   1253:         #self.basketContent=basketContent[0:]a
1.4       dwinter  1254:         self.user=user
                   1255:         self.time=time.localtime()
                   1256:         
                   1257:     def getUser(self):
                   1258:         """get user"""
                   1259:         return self.user
                   1260:     
                   1261:     def getComment(self):
                   1262:         """get Comment"""
                   1263:         return self.comment
                   1264:  
1.32      dwinter  1265:     security.declareProtected('View','index_html')
1.4       dwinter  1266:     def index_html(self):
                   1267:             """view the basket"""
1.37      dwinter  1268: 
                   1269:             if self.REQUEST.get('change',False):
1.38      dwinter  1270:                     ob=self.aq_parent.updateObjects(self.REQUEST['change'])
                   1271:                    
                   1272:                     self.REQUEST.RESPONSE.redirect(ob.absolute_url())#go to new basket, because changing generates a new basket
1.37      dwinter  1273:                                         
1.4       dwinter  1274:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','BasketVersionMain.zpt')).__of__(self)
                   1275:             return pt()
                   1276:      
                   1277:     def getObjUrl(self,result):
                   1278:         """getUrl of the version of the object"""
                   1279:         objId=result[1].getTitle()
                   1280:         founds=self.CDLICatalog.search({'title':objId})
                   1281:         if len(founds)>0:
1.12      dwinter  1282:              return founds[0].getObject().getLastVersion().absolute_url()
1.4       dwinter  1283:          
                   1284:         else: #assume version number
                   1285:             splitted=objId.split("_")
1.9       dwinter  1286:             founds=self.CDLICatalog.search({'title':splitted[1]})        
1.12      dwinter  1287:             return founds[0].getObject().getLastVersion().absolute_url()+'/'+objId
1.4       dwinter  1288:    
                   1289: def manage_addCDLIBasketVersion(self,user,comment="",basketContent=[],RESPONSE=None):
                   1290:     """add a version"""
                   1291:     
                   1292:     #check for already existing versions
                   1293:  
                   1294:     lastVersion=self.getLastVersion()
                   1295:     if lastVersion is None:
                   1296:         newId=str(1)
                   1297:     else:
                   1298:         newId=str(int(lastVersion.getId())+1)
                   1299:     
                   1300:     ob=CDLIBasketVersion(newId,user,comment,basketContent)
                   1301:     
                   1302:     self._setObject(newId, ob)
                   1303:     
                   1304:     if RESPONSE is not None:
                   1305:         RESPONSE.redirect('manage_main')
                   1306:     else:
                   1307:         return ob
                   1308:     
1.46      dwinter  1309: class CDLIFileObject(CatalogAware,extVersionedFileObject):
1.1       dwinter  1310:     """CDLI file object"""
                   1311:     
                   1312:     meta_type="CDLI File Object"
1.25      dwinter  1313:     default_catalog='CDLIObjectsCatalog'
1.1       dwinter  1314:     
1.12      dwinter  1315:     security=ClassSecurityInfo()
                   1316:     
1.26      dwinter  1317:  
                   1318:     security.declarePublic('makeThisVersionCurrent')
                   1319:     
1.28      dwinter  1320:     def PrincipiaSearchSource(self):
                   1321:            """Return cataloguable key for ourselves."""
                   1322:            return str(self)
                   1323:        
1.26      dwinter  1324:     def makeThisVersionCurrent_html(self):
                   1325:         """form for making this version current"""
                   1326:         
                   1327:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','makeThisVersionCurrent.zpt')).__of__(self)
                   1328:         return pt()                 
1.27      dwinter  1329:     def makeThisVersionCurrent(self,comment,author,RESPONSE=None):
1.26      dwinter  1330:         """copy this version to current"""
                   1331:         parent=self.aq_parent
                   1332:         
                   1333:         
                   1334:         newversion=parent.manage_addCDLIFileObject('',comment,author)
1.64      dwinter  1335:         newversion.manage_upload(self.getData())
1.27      dwinter  1336:                                         
                   1337:         if RESPONSE is not None:
                   1338:             RESPONSE.redirect(self.aq_parent.absolute_url()+'/history')
                   1339: 
                   1340: 
1.26      dwinter  1341:         return True
                   1342:     
                   1343:     security.declarePublic('view')
1.52      dwinter  1344:  
                   1345:     def getFormattedData(self):
                   1346:         """fromat text"""
                   1347:         data=self.getData()
1.70      dwinter  1348: #        return re.sub("\s\#lem"," #lem",data) #remove return vor #lem
                   1349:         return re.sub("#lem","       #lem",data) #remove return vor #lem
1.52      dwinter  1350:         
1.1       dwinter  1351:     def view(self):
                   1352:         """view file"""
                   1353:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','viewCDLIFile.zpt')).__of__(self)
                   1354:         return pt()
                   1355:     
1.40      dwinter  1356:     security.declarePublic('getPNumber')
                   1357:     def getPNumber(self):
1.46      dwinter  1358:         """get the pnumber"""
                   1359:         try:
1.49      dwinter  1360:                 txt=re.match("&[Pp](\d*)\s*=([^\r\n]*)",self.getData()[0:])
1.40      dwinter  1361:         except:
1.49      dwinter  1362:                 txt=self.getData()[0:]
1.40      dwinter  1363:                 
                   1364:                 return "ERROR"
                   1365:         try:
                   1366:             return "P"+txt.group(1)
                   1367:         except:
                   1368:             return "ERROR"
                   1369: 
1.12      dwinter  1370:     security.declarePublic('getDesignation')
                   1371:     def getDesignation(self):
                   1372:         """get the designation out of the file"""
1.16      dwinter  1373:         try:
1.46      dwinter  1374:                 txt=re.match("&[Pp](\d*)\s*=([^\r\n]*)",self.getData()[0:])
1.13      dwinter  1375:         except:
1.46      dwinter  1376:                 txt=self.getData()[0:]
1.16      dwinter  1377:                 
                   1378:                 return "ERROR"
1.12      dwinter  1379:         try:
                   1380:             return txt.group(2)
                   1381:         except:
                   1382:             return "ERROR"
                   1383:         
1.1       dwinter  1384: manage_addCDLIFileObjectForm=DTMLFile('dtml/fileAdd', globals(),Kind='CDLIFileObject',kind='CDLIFileObject', version='1')
                   1385: 
                   1386: def manage_addCDLIFileObject(self,id,vC='',author='', file='',title='',precondition='', content_type='',
1.48      dwinter  1387:                              from_tmp=False,REQUEST=None):
1.1       dwinter  1388:     """Add a new File object.
                   1389: 
                   1390:     Creates a new File object 'id' with the contents of 'file'"""
1.48      dwinter  1391:  
1.1       dwinter  1392:     id=str(id)
                   1393:     title=str(title)
                   1394:     content_type=str(content_type)
                   1395:     precondition=str(precondition)
                   1396:     
                   1397:     id, title = cookId(id, title, file)
                   1398: 
                   1399:     self=self.this()
                   1400: 
                   1401:     # First, we create the file without data:
                   1402:     self._setObject(id, CDLIFileObject(id,title,'',content_type, precondition))
                   1403:     self._getOb(id).versionComment=str(vC)
                   1404:     self._getOb(id).time=time.localtime()
                   1405:     
                   1406:     setattr(self._getOb(id),'author',author)
                   1407:     
1.45      dwinter  1408:     
1.1       dwinter  1409:     # Now we "upload" the data.  By doing this in two steps, we
                   1410:     # can use a database trick to make the upload more efficient.
1.48      dwinter  1411: 
                   1412:     if file and not from_tmp:
1.1       dwinter  1413:         self._getOb(id).manage_upload(file)
1.48      dwinter  1414:     elif file and from_tmp:
                   1415:         self._getOb(id).manage_upload_from_tmp(file)
1.1       dwinter  1416:     if content_type:
                   1417:         self._getOb(id).content_type=content_type
                   1418: 
1.45      dwinter  1419:     self.reindex_object()
1.49      dwinter  1420:     self._getOb(id).reindex_object()
                   1421: 
1.1       dwinter  1422:     if REQUEST is not None:
                   1423:         REQUEST['RESPONSE'].redirect(self.absolute_url()+'/manage_main')
1.3       dwinter  1424:     
1.46      dwinter  1425: class CDLIFile(extVersionedFile,CatalogAware):
1.3       dwinter  1426:     """CDLI file"""
                   1427:     
                   1428:     meta_type="CDLI file"
                   1429:     default_catalog='CDLICatalog'
1.5       dwinter  1430:     
1.26      dwinter  1431:     #security.declarePublic('history')
1.51      dwinter  1432:     def getLastVersionData(self):
                   1433:         """get last version data"""
                   1434:         return self.getLastVersion().getData()
                   1435: 
1.52      dwinter  1436:     def getLastVersionFormattedData(self):
                   1437:         """get last version data"""
                   1438:         return self.getLastVersion().getFormattedData()
                   1439: 
1.51      dwinter  1440:     #security.declarePublic('history')
                   1441:     
                   1442:     
1.26      dwinter  1443:     def history(self):
                   1444:         """history"""  
                   1445: 
                   1446:         ext=self.ZopeFind(self.aq_parent,obj_ids=["history_template.html"])
                   1447:         if ext:
                   1448:             return getattr(self,ext[0][1].getId())()
                   1449:         
                   1450:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','versionHistory')).__of__(self)
                   1451:         return pt()
                   1452: 
                   1453: 
1.44      dwinter  1454:     def getBasketFromId(self,basketid, context=None):
                   1455:         """get basket from id"""
                   1456: 
                   1457:         if not context:
                   1458:             context=self
                   1459:             
                   1460:         for basket in self.ZopeFind(context,obj_metatypes=["CDLIBasket"]):
                   1461:             if basket[0]==basketid:
                   1462:                 return basket[1]
                   1463:         else:
                   1464:             None
                   1465: 
1.12      dwinter  1466:  
1.8       dwinter  1467:     def isContainedInBaskets(self,context=None):
                   1468:         """check is this file is part of any basket
                   1469:         @param context: (optional) necessessary if CDLIBasketCatalog is not an (inherited) attribute of self, context.CDLIBasketCatalog
                   1470:                         has to exist.
                   1471:         """
                   1472: 
                   1473:         if not context:
                   1474:             context=self
1.12      dwinter  1475:         
                   1476:         ret=[]
                   1477:         for x in context.CDLIBasketCatalog.search({'getFileNamesInLastVersion':self.getId()}):
                   1478:             #if the basket x is deleted it seemes to be that x is sometimes still in the Catalog, why?
                   1479:             try:
                   1480:                 ret.append(x.getObject())
                   1481:             except:
                   1482:                 pass
                   1483:         return ret
                   1484:         #return [x.getObject() for x in context.CDLIBasketCatalog.search({'getFileNamesInLastVersion':self.getId()})]
1.5       dwinter  1485:         
                   1486:         
                   1487:     def addCDLIFileObjectForm(self):
                   1488:         """add a new version"""
                   1489:         
                   1490:         if str(self.REQUEST['AUTHENTICATED_USER']) in ["Anonymous User"]:
                   1491:             return "please login first"
                   1492:         if (self.lockedBy==self.REQUEST['AUTHENTICATED_USER']) or (self.lockedBy==''):
                   1493:             out=DTMLFile('dtml/fileAdd', globals(),Kind='CDLIFileObject',kind='CDLIFileObject',version=self.getVersion()).__of__(self)
                   1494:             return out()
                   1495:         else:
                   1496:             return "Sorry file is locked by somebody else"
                   1497:         
1.37      dwinter  1498:     def manage_addCDLIFileObject(self,id,vC,author,
                   1499:                                  file='',title='',
                   1500:                                  precondition='', 
                   1501:                                  content_type='',
                   1502:                                  changeName='no',newName='', 
1.48      dwinter  1503:                                  come_from=None,
                   1504:                                  from_tmp=False,RESPONSE=None):
1.3       dwinter  1505:         """add"""
1.48      dwinter  1506:       
1.3       dwinter  1507:         try: #TODO: der ganze vC unsinn muss ueberarbeitet werden
                   1508:             vC=self.REQUEST['vC']
                   1509:         except:
                   1510:             pass
                   1511:         
                   1512:         
                   1513:         if changeName=="yes":
                   1514:             filename=file.filename
                   1515:             self.title=filename[max(filename.rfind('/'),
                   1516:                         filename.rfind('\\'),
                   1517:                         filename.rfind(':'),
                   1518:                         )+1:]
                   1519: 
                   1520: 
                   1521:         if not newName=='':
                   1522:             self.title=newName[0:]
                   1523:         
                   1524:         
                   1525: 
1.37      dwinter  1526:    
1.3       dwinter  1527:         positionVersionNum=getattr(self,'positionVersionNum','front')
                   1528:         
                   1529:         if positionVersionNum=='front':
                   1530:             id="V%i"%self.getVersion()+"_"+self.title
                   1531:         else:
                   1532:             tmp=os.path.splitext(self.title)
                   1533:             if len(tmp)>1:
                   1534:                 id=tmp[0]+"_V%i"%self.getVersion()+tmp[1]
                   1535:             else:
                   1536:                 id=tmp[0]+"_V%i"%self.getVersion()
                   1537:             
1.37      dwinter  1538:       
1.48      dwinter  1539:         manage_addCDLIFileObject(self,id,vC,author,file,id,precondition, content_type,from_tmp=from_tmp)
                   1540:         #objs=self.ZopeFind(self,obj_ids=[id])[0][1].setVersionNumber(int(self.getVersion()))
                   1541:         objs=getattr(self,id).setVersionNumber(int(self.getVersion()))
1.22      dwinter  1542:         try:
                   1543:           #FIXME: wozu ist das gut?
                   1544:           self.REQUEST.SESSION['objID_parent']=self.getId()
                   1545:         except:
                   1546:           pass
1.37      dwinter  1547:   
1.3       dwinter  1548:         if RESPONSE:
1.37      dwinter  1549:     
1.3       dwinter  1550:             obj=self.ZopeFind(self,obj_ids=[id])[0][1]
                   1551:             if obj.getSize()==0:
                   1552:                 self.REQUEST.SESSION['objID']=obj.getId()
                   1553:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','errorUploadFile')).__of__(self)
                   1554:                 return pt()
                   1555: 
                   1556:             else:
1.37      dwinter  1557:                 if come_from and (come_from!=""):
                   1558:                                         RESPONSE.redirect(come_from+"?change="+self.getId())
                   1559:                 else:
                   1560:                     RESPONSE.redirect(self.REQUEST['URL2']+'?uploaded=%s'%self.title)
1.3       dwinter  1561: 
                   1562:         else:
                   1563:             return self.ZopeFind(self,obj_ids=[id])[0][1]
                   1564:         
                   1565:         
                   1566: def manage_addCDLIFileForm(self):
                   1567:     """interface for adding the OSAS_root"""
                   1568:     pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','addCDLIFile.zpt')).__of__(self)
                   1569:     return pt()
                   1570: 
                   1571: def manage_addCDLIFile(self,id,title,lockedBy, author=None, RESPONSE=None):
                   1572:     """add the OSAS_root"""
                   1573:     newObj=CDLIFile(id,title,lockedBy,author)
1.22      dwinter  1574:                                         
                   1575:     tryToggle=True
                   1576:     tryCount=0
                   1577:     
                   1578:   
                   1579: 
                   1580:     self._setObject(id,newObj)                  
1.45      dwinter  1581:     getattr(self,id).reindex_object()
1.22      dwinter  1582:         
1.3       dwinter  1583:     if RESPONSE is not None:
                   1584:         RESPONSE.redirect('manage_main')
                   1585: 
1.69      dwinter  1586: def checkUTF8(data):
                   1587:     """check utf 8"""
                   1588:     try:
                   1589:         data.encode('utf-8')
                   1590:         return True
                   1591:     except:
                   1592:         return False
                   1593:     
1.1       dwinter  1594: 
1.45      dwinter  1595: def checkFile(filename,data,folder):
                   1596:     """check the files"""
                   1597:     # first check the file name
                   1598:     fn=filename.split(".") # no extension
1.48      dwinter  1599: 
1.45      dwinter  1600:     if not fn[0][0]=="P":
1.46      dwinter  1601:         return False,"P missing in the filename"
1.45      dwinter  1602:     elif len(fn[0])!=7:
1.46      dwinter  1603:         return False,"P number has not the right length 6"
1.69      dwinter  1604:     elif not checkUTF8(data):
                   1605:         return False,"not utf-8"
1.45      dwinter  1606:     else:
1.69      dwinter  1607:         return True,""
                   1608:     
1.45      dwinter  1609:     
1.25      dwinter  1610: def splitatf(fh,dir=None,ext=None):
1.2       dwinter  1611:     """split it"""
1.4       dwinter  1612:     ret=None
1.2       dwinter  1613:     nf=None
1.25      dwinter  1614:     i=0
1.49      dwinter  1615: 
                   1616:     for lineTmp in fh.readlines():
1.66      dwinter  1617:         lineTmp=lineTmp.replace(codecs.BOM_UTF8,'') # make sure that all BOM are removed..
                   1618:         for line in lineTmp.split("\r"):
                   1619:             #logging.log("Deal with: %s"%line)
                   1620:             if ext:
                   1621:                 i+=1
                   1622:                 if (i%100)==0:
                   1623:                     ext.result+="."
                   1624:                 if i==10000:
                   1625:                     i=0
                   1626:                     ext.result+="<br>"
                   1627:             #check if basket name is in the first line
                   1628:             if line.find("#atf basket")>=0: #old convention
                   1629:                 ret=line.replace('#atf basket ','')
                   1630:                 ret=ret.split('_')[0]
                   1631:             elif line.find("#basket:")>=0: #new convention
                   1632:                 ret=line.replace('#basket: ','')
                   1633:                 ret=ret.split('_')[0]
                   1634: 
                   1635:             else:
                   1636:                 if (len(line.lstrip())>0) and (line.lstrip()[0]=="&"): #newfile
                   1637:                     if nf:
                   1638:                         nf.close() #close last file
                   1639: 
1.49      dwinter  1640: 
1.66      dwinter  1641:                     filename=line[1:].split("=")[0].rstrip()+".atf"
                   1642:                     if dir:
                   1643:                         filename=os.path.join(dir,filename)
                   1644:                     nf=file(filename,"w")
                   1645:                     logging.info("open %s"%filename)
                   1646:                 if nf:    
                   1647:                     nf.write(line.replace("\n","")+"\n")
                   1648: 
                   1649:     try:        
                   1650:         nf.close()
1.61      dwinter  1651:     except:
1.66      dwinter  1652:         pass
1.2       dwinter  1653:     fh.close()
1.5       dwinter  1654:     return ret,len(os.listdir(dir))
1.4       dwinter  1655: 
1.19      dwinter  1656: 
1.46      dwinter  1657: class CDLIFileFolder(extVersionedFileFolder):
1.4       dwinter  1658:     """CDLI File Folder"""
1.1       dwinter  1659:     
1.19      dwinter  1660:     security=ClassSecurityInfo()
1.1       dwinter  1661:     meta_type="CDLI Folder"
                   1662:     filesMetaType=['CDLI file']
                   1663:     folderMetaType=['CDLI Folder']
                   1664:     default_catalog='CDLICatalog'
1.25      dwinter  1665:     defaultFileCatalog=default_catalog #wenn dieses definiert ist, wird beim hinzufŸgen einer neuen version eines files dieser catalog neuiniziert
1.45      dwinter  1666:     #downloadCounter=0 # counts how many download for all files currently run, be mehr als 5 wird verweigert.
1.24      dwinter  1667:     tmpStore2={}
1.19      dwinter  1668:     def setTemp(self,name,value):
                   1669:         """set tmp"""
                   1670: 
                   1671:         setattr(self,name,value)
                   1672:                                         
                   1673:                                        
1.12      dwinter  1674:     def delete(self,ids):
                   1675:         """delete this file, i.e. move into a trash folder"""
                   1676:              
                   1677:         found=self.ZopeFind(self,obj_ids=['.trash'])
                   1678:         
                   1679:         if len(found)<1:
                   1680:             manage_addCDLIFileFolder(self, '.trash',title="Trash")
                   1681:             trash=self._getOb('.trash')
                   1682:         else:
                   1683:             trash=found[0][1]
                   1684:         
                   1685:         if type(ids) is not ListType:
                   1686:             ids=[ids]
                   1687:         cut=self.manage_cutObjects(ids)
                   1688:         trash.manage_pasteObjects(cut)
                   1689:         
1.4       dwinter  1690:     def getVersionNumbersFromIds(self,ids):
                   1691:         """get the numbers of the current versions of documents described by their ids"""
                   1692:         
                   1693:         ret=[]
                   1694:         searchStr=" OR ".join(ids)
                   1695:         
1.9       dwinter  1696:         founds=self.CDLICatalog.search({'title':searchStr})
1.4       dwinter  1697:         
                   1698:         for found in founds:
                   1699:             lastVersion=found.getObject().getLastVersion()
                   1700:             ret.append((found.getId,lastVersion))
                   1701:         
                   1702:         return ret
                   1703:     
1.67      dwinter  1704:     def getFile(self,fn):
                   1705:         """get the content of the file fn"""
                   1706:         founds=self.CDLICatalog.search({'title':fn})
                   1707:         if not founds:
                   1708:             return []
                   1709:         else:
                   1710:             obj=founds[0].getObject().getLastVersion()
1.68      dwinter  1711: 
1.67      dwinter  1712:             return obj.getData()[0:] 
                   1713:     
1.14      dwinter  1714:     def checkCatalog(self,fn):
                   1715:         """check if fn is in the catalog"""
1.19      dwinter  1716:         #TODO add checkCatalog
1.14      dwinter  1717:          
                   1718:         
1.19      dwinter  1719:                                    
1.45      dwinter  1720:     def findObjectsFromListWithVersion(self,list,author=None):
1.26      dwinter  1721:         """find objects from a list with versions
                   1722:         @param list: list of tuples  (cdliFile,version)
                   1723:         """
                   1724:         
                   1725:        
                   1726:        
                   1727:         #self.REQUEST.SESSION['fileIds']=list#store fieldIds in session for further usage
                   1728:         #self.REQUEST.SESSION['searchList']=self.REQUEST.SESSION['fileIds']
                   1729:         
                   1730:         
                   1731:         pt=getattr(self,'filelistVersioned.html')
                   1732:             
1.45      dwinter  1733:         return pt(search=list,author=author)
1.26      dwinter  1734:     
                   1735:     
1.67      dwinter  1736:     def getAllPNumbers(self):
                   1737:         """get a list of all files (resp their p-numbers) stored"""
                   1738:         
                   1739:         ret=[x.getId for x in  self.CDLICatalog()]
                   1740:      
                   1741:         return ret
                   1742:     
1.35      dwinter  1743:     def findObjectsFromList(self,enterList=None,display=False,start=None,upload=None,list=None,basketName=None,numberOfObjects=None,RESPONSE=None):
1.1       dwinter  1744:         """findObjectsFromList (, TAB oder LINE separated)"""
1.15      dwinter  1745:                                        
                   1746:         
1.6       dwinter  1747:         if upload: # list from file upload
                   1748:             txt=upload.read()
1.35      dwinter  1749:                                        
                   1750:         if enterList:
                   1751:             txt=enterList
                   1752:             
                   1753:         if upload or enterList:
1.6       dwinter  1754:             txt=txt.replace(",","\n")
                   1755:             txt=txt.replace("\t","\n")
1.12      dwinter  1756:             txt=txt.replace("\r","\n")
1.6       dwinter  1757:             idsTmp=txt.split("\n")
                   1758:             ids=[]
                   1759:             for id in idsTmp: # make sure that no empty lines
                   1760:                 idTmp=id.lstrip().rstrip()
                   1761:                 if len(idTmp)>0:
                   1762:                     
                   1763:                     ids.append(idTmp)
                   1764:                     
                   1765:             #self.REQUEST.SESSION['ids']=" OR ".join(ids)
1.12      dwinter  1766: 
1.6       dwinter  1767:             pt=getattr(self,'filelist.html')
1.7       dwinter  1768:             self.REQUEST.SESSION['searchList']=ids
1.6       dwinter  1769:             return pt(search=ids)
1.7       dwinter  1770:         
1.6       dwinter  1771:         if basketName:
1.7       dwinter  1772:             #TODO: get rid of one of these..
                   1773:             
1.6       dwinter  1774:             pt=getattr(self,'filelist.html')
1.7       dwinter  1775:             return pt(basketName=basketName,numberOfObjects=numberOfObjects)
1.6       dwinter  1776:         
1.15      dwinter  1777:         if list is not None: # got already a list
1.6       dwinter  1778:             ret=[]
                   1779:             for fileId in list:
1.35      dwinter  1780:                 if fileId.find("*"): #check for wildcards
                   1781:                         fileId=fileId
                   1782:                 elif len(fileId.split("."))==1:
1.6       dwinter  1783:                         fileId=fileId+".atf"
1.35      dwinter  1784:                 
1.6       dwinter  1785:                 ret+=self.CDLICatalog({'title':fileId})
1.7       dwinter  1786:             #TODO: get rid of one of these..
1.25      dwinter  1787:             ids=[x.getObject().getId() for x in ret]
                   1788:             self.REQUEST.SESSION['fileIds']=ids#store fieldIds in session for further usage
1.7       dwinter  1789:             self.REQUEST.SESSION['searchList']=self.REQUEST.SESSION['fileIds']
1.25      dwinter  1790:             
                   1791:             if display:
                   1792:                 pt=getattr(self,'filelist.html')
                   1793:                 
                   1794:                 return pt(search=ids)
                   1795:             else:      
                   1796:                 return ret
                   1797:         
                   1798:         
1.1       dwinter  1799:         
1.7       dwinter  1800:         if start:
                   1801:             RESPONSE.redirect("filelist.html?start:int="+str(start))
1.15      dwinter  1802:                                        
1.18      dwinter  1803: 
1.19      dwinter  1804:     security.declareProtected('Manage','createAllFilesAsSingleFile')
1.1       dwinter  1805:     def createAllFilesAsSingleFile(self,RESPONSE=None):
                   1806:         """download all files"""
                   1807:         
                   1808:         def sortF(x,y):
                   1809:             return cmp(x[0],y[0])
                   1810:         
                   1811:         catalog=getattr(self,self.default_catalog)
                   1812:         #tf,tfilename=mkstemp()
1.66      dwinter  1813:         if not hasattr(self.temp_folder,'downloadCounter'):
                   1814:             self.temp_folder.downloadCounter=0
1.49      dwinter  1815: 
                   1816:         if getattr(self.temp_folder,'downloadCounter',0) > 5:
1.46      dwinter  1817:             return """I am sorry, currently the server has to many requests for downloads, please come back later!"""
1.45      dwinter  1818: 
1.46      dwinter  1819:         self.temp_folder.downloadCounter+=1
                   1820:         self._p_changed=1
1.58      dwinter  1821:         transaction.get().commit()
1.45      dwinter  1822:        
1.1       dwinter  1823:         list=[(x.getId,x) for x in catalog()]
                   1824:         list.sort(sortF)
1.46      dwinter  1825:         
1.45      dwinter  1826: 
1.1       dwinter  1827:         
                   1828:         RESPONSE.setHeader("Content-Disposition","""attachement; filename=%s"""%"all.atf")
                   1829:         RESPONSE.setHeader("Content-Type","application/octet-stream")
1.46      dwinter  1830:         tmp=""
1.1       dwinter  1831:         for l in list:
                   1832:             obj=l[1].getObject()
                   1833:             
                   1834:             if obj.meta_type=="CDLI file":
                   1835:                 
                   1836:                 #os.write(tf,obj.getLastVersion().data)
                   1837:                 if RESPONSE:
1.49      dwinter  1838:                     RESPONSE.write(obj.getLastVersion().getData()[0:])
1.71      dwinter  1839:                     RESPONSE.write("\n")
1.46      dwinter  1840:                 self.temp_folder.downloadCounter-=1 
                   1841:                 self._p_changed=1
1.58      dwinter  1842:         transaction.get().commit()
1.1       dwinter  1843:         #os.close(tf)
                   1844:         #RESPONSE.redirect(self.absolute_url()+"/downloadFile?fn="%tfilename)
                   1845:         return True
                   1846:     
                   1847:     def downloadFile(self,fn):
                   1848:         """download fn - not used yet"""
                   1849:         self.REQUEST.RESPONSE.setHeader("Content-Disposition","""attachement; filename=%s"""%self.getLastVersion().getId())
                   1850:         self.REQUEST.RESPONSE.setHeader("Content-Type","application/octet-stream")
                   1851:         self.REQUEST.RESPONSE.write(file(fn).read())
                   1852:         
                   1853:       
                   1854:                 
                   1855:     def hasParent(self):
                   1856:         """returns true falls subfolder"""
                   1857:       
                   1858:         if self.aq_parent.meta_type in self.folderMetaType:
                   1859:             return True
                   1860:         else:
                   1861:             return False
                   1862:         
                   1863:     def getFolders(self):
                   1864:         """get all subfolders"""
                   1865:         ret=[]
                   1866:         folders=self.ZopeFind(self,obj_metatypes=self.folderMetaType)
                   1867:         for folder in folders:
                   1868:             ret.append((folder[1],
                   1869:                         len(self.ZopeFind(folder[1],obj_metatypes=self.folderMetaType)),
                   1870:                         len(self.ZopeFind(folder[1],obj_metatypes=self.filesMetaType))
                   1871:                         ))
                   1872:         return ret
                   1873:     
                   1874:             
1.32      dwinter  1875:     security.declareProtected('View','index_html')
1.1       dwinter  1876:     def index_html(self):
                   1877:         """main"""
                   1878:         ext=self.ZopeFind(self,obj_ids=["index.html"])
                   1879:         if ext:
                   1880:             return ext[0][1]()
                   1881:         
                   1882:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','CDLIFileFolderMain')).__of__(self)
                   1883:         return pt()
                   1884:     
1.22      dwinter  1885:     
                   1886: manage_addCDLIFileFolderForm=DTMLFile('dtml/folderAdd', globals())
                   1887: 
                   1888:     
                   1889: def manage_addCDLIFileFolder(self, id, title='',
                   1890:                      createPublic=0,
                   1891:                      createUserF=0,
                   1892:                      REQUEST=None):
                   1893:     """Add a new Folder object with id *id*.
                   1894: 
                   1895:     If the 'createPublic' and 'createUserF' parameters are set to any true
                   1896:     value, an 'index_html' and a 'UserFolder' objects are created respectively
                   1897:     in the new folder.
                   1898:     """
                   1899:     ob=CDLIFileFolder()
                   1900:     ob.id=str(id)
                   1901:     ob.title=title
                   1902:     self._setObject(id, ob)
                   1903:     ob=self._getOb(id)
                   1904: 
                   1905:     checkPermission=getSecurityManager().checkPermission
                   1906: 
                   1907:     if createUserF:
                   1908:         if not checkPermission('Add User Folders', ob):
                   1909:             raise Unauthorized, (
                   1910:                   'You are not authorized to add User Folders.'
                   1911:                   )
                   1912:         ob.manage_addUserFolder()
                   1913: 
                   1914:   
                   1915:     if REQUEST is not None:
                   1916:         return self.manage_main(self, REQUEST, update_menu=1)
                   1917:     
                   1918: class CDLIRoot(Folder):
                   1919:     """main folder for cdli"""
                   1920:     
                   1921:     meta_type="CDLIRoot"
1.45      dwinter  1922:     downloadCounterBaskets=0# counts the current basket downloads if counter > 10 no downloads are possible
1.51      dwinter  1923:     
1.71      dwinter  1924:     def findWordRegExp(self,indexName,searchTerm):
                   1925:         """find all words in index which match regexp in SearchTerm
                   1926:         @param indexName: name of the index to be searched in
                   1927:         @param searchTerm: word to be searched"""
                   1928:         
1.57      dwinter  1929:         ret=[]
1.71      dwinter  1930:         for x in self.lineIndexes[indexName].iterkeys():
1.57      dwinter  1931:             if re.match(searchTerm,x):
                   1932:                 ret.append(x)
                   1933:         return ret
                   1934:     
1.71      dwinter  1935:     def searchRegExpInLineIndexDocs(self,indexName,searchTerm):
                   1936:         """search in inLineIndex with regexp
                   1937:         @param indexName: name of the index to be searched in
                   1938:         @param searchTerm: term to be searched
                   1939:         """
1.57      dwinter  1940:         if not searchTerm:
                   1941:             return []
                   1942:         ret=[]
1.71      dwinter  1943:         words=self.findWordRegExp(indexName,searchTerm) # suche nach allen Treffern
1.57      dwinter  1944:         logging.info("wd:%s"%words)
                   1945:         for word in words:
1.71      dwinter  1946:             ret+=self.searchInLineIndexDocs(indexName,word)
1.57      dwinter  1947:         
                   1948:         return unique(ret)
                   1949:         
1.53      dwinter  1950:     def showInLineIndex(self):
                   1951:         """get the index for debug purposes"""
                   1952:         print "show"
1.71      dwinter  1953:         for key in self.lineIndexes.keys():
                   1954:             logging.info("index:%s"%key)
                   1955:             for x in self.lineIndexes[key].iterkeys():
                   1956:                 logging.info("word:%s"%repr(x))
                   1957:                 #for y in self.lineIndex[x].iterkeys():
                   1958:                 #    print "doc",repr(y),repr(self.lineIndex[x][y])
                   1959:                     
                   1960:         return self.lineIndexes
1.53      dwinter  1961:         
1.71      dwinter  1962:     def searchInLineIndexDocs(self,indexName,word,uniq=True,regExp=False):
                   1963:         """search occurences in an index
                   1964:         @param indexName: name of the index to be searched in
                   1965:         @param word: word to be searched
                   1966:         @param unique: (optional) unify the list of results
                   1967:         @param regExp: (optional) use regular expressions
                   1968:         """
1.57      dwinter  1969: 
                   1970:         if regExp:
1.71      dwinter  1971:             return self.searchRegExpInLineIndexDocs(indexName,word)
1.55      dwinter  1972:         
1.56      dwinter  1973:         try:    
1.71      dwinter  1974:                 
                   1975:                 lst=list(self.lineIndexes[indexName].get(word).keys())
1.57      dwinter  1976:         except:
1.71      dwinter  1977:             logging.error("error: searchInLineIndexDocs (%s %s)"%(sys.exc_info()[0:2]))
1.57      dwinter  1978:             lst=[]
1.55      dwinter  1979:         if uniq:
                   1980:             return unique(lst)
                   1981:         else:
                   1982:             return lst
                   1983:         
1.71      dwinter  1984:     def getLinesFromIndex(self,indexName,word,doc,regExp=False):
                   1985:         """return all lines from a document where word is found
                   1986:         @param indexName: Name of the index
                   1987:         @param word: word to be searched
                   1988:         @param doc: name of the document (usuallay the p-number)
                   1989:         @param regExp: (optional) use regExp       
                   1990:         """
                   1991:         
1.57      dwinter  1992:         if not regExp:
1.71      dwinter  1993:             return self.lineIndexes[indexName].get(word)[doc]
1.57      dwinter  1994:         else: # wenn regexp, suche welches word
1.71      dwinter  1995:             for w in self.findWordRegExp(indexName,word):
                   1996:                 if self.lineIndexes[indexName].get(w): # ein word in im dex gefunden
1.57      dwinter  1997:                     try:    
1.71      dwinter  1998:                         dc=self.lineIndex[indexName].get(word)[doc]
1.57      dwinter  1999:                         return dc # und ein document dann gib es zurueck
                   2000:                     except:
                   2001:                          pass #andernfalls weiter
                   2002:                      
1.71      dwinter  2003:     def cleanInLineIndex(self,indexName):
                   2004:         """empty an InlineIndex
                   2005:         @param indexName: name of the index
                   2006:         """
                   2007:         for x in list(self.lineIndexes[indexName].keys()):
                   2008:             del(self.lineIndexes[indexName][x])
                   2009:         print [x for x in self.lineIndexes[indexName].keys()]
1.53      dwinter  2010:      
                   2011:         return "ok"
                   2012:     
1.71      dwinter  2013:     def storeInLineIndex(self,indexName,key,value):
                   2014:         """store in index, key is normally a word or grapheme 
                   2015:         and value is a tuple (documentname, line) where the word can be found
                   2016:         @param indexName: name of the index
                   2017:         @param key: key in index
                   2018:         @param value: value in index, value is a tuple (document name, line)
                   2019:         """
                   2020:         logging.error("indexing: %s %s"%(indexName,key))
                   2021:         if (not hasattr(self,'lineIndexes')):
                   2022:       
                   2023:             self.lineIndexes={}
                   2024:             
                   2025:         if self.lineIndexes.get(indexName,None) is None:
                   2026:             #index exisitiert noch nicht dann anlegen
                   2027:             
                   2028:             self.lineIndexes[indexName]=OOBTree()
                   2029:         lis=self.lineIndexes
                   2030:         li=lis[indexName]
1.53      dwinter  2031:         
                   2032:         if li.has_key(key):
1.54      dwinter  2033: 
                   2034: #            if li[key].has_key(value[0]) and (not (value[1] in li[key][value[0]])):
                   2035:             if li[key].has_key(value[0]):
                   2036:                 tmp=li[key][value[0]]
                   2037:                 tmp.append(value[1]) # add it if now in the array
                   2038:                 li[key][value[0]]=tmp[0:]
1.53      dwinter  2039:             else:
                   2040:                 li[key][value[0]]=[value[1]] # new array for lines
                   2041:                 
                   2042:         else:
                   2043:             
                   2044:             li[key]=OOBTree()# new btree for lines
                   2045:             li[key][value[0]]=[value[1]] 
                   2046:                     
                   2047:         
1.71      dwinter  2048:         self.lineIndexes=lis
1.53      dwinter  2049:      
1.58      dwinter  2050:         transaction.get().commit()
1.53      dwinter  2051:         
1.51      dwinter  2052: 
                   2053:     def showFile(self,fileId):
1.71      dwinter  2054:         """show a file
                   2055:         @param fileId: P-Number of the document to be displayed
                   2056:         """
1.51      dwinter  2057:         f=self.CDLICatalog({'title':fileId})
                   2058:         if not f:
                   2059:             return ""
                   2060:         
1.52      dwinter  2061:         return f[0].getObject().getLastVersionFormattedData()
1.55      dwinter  2062:     
1.56      dwinter  2063: 
1.71      dwinter  2064:     def showWordInFile(self,fileId,word,lineList=None,regExp=True,indexName=""):
1.56      dwinter  2065:         """get lines with word  fromFileId"""
                   2066:         
                   2067:         file=self.showFile(fileId)
                   2068: 
1.66      dwinter  2069:         ret=[]
1.71      dwinter  2070:         if regExp: # wenn regexp dann generiere alle worte aus der list die der regexp entsprechen
                   2071:             wordlist=self.findWordRegExp(indexName,word)
                   2072:         else:
                   2073:             wordlist=[word]
                   2074:         
1.66      dwinter  2075:         for line in file.split("\n"):
1.71      dwinter  2076:             found=False
                   2077:             for word in wordlist:
1.66      dwinter  2078:                 if line.find(word)>-1:
                   2079:                         if lineList: #liste of moeglichen Zeilennummern
                   2080:                                 num=line.split(".")[0] #Zeilenummer ist alles vor dem . in der Zeile
                   2081: 
                   2082:                                 if num in lineList: 
                   2083: 
                   2084:                                         ret.append(line)
                   2085:                         else: # nimm alles ohne line check
                   2086:                                 ret.append(line)
1.71      dwinter  2087:                         
                   2088:                         break;
1.66      dwinter  2089:         return ret
1.56      dwinter  2090: 
1.71      dwinter  2091:     def tagWordInFile(self,fileId,word,lineList=None,regExp=True,indexName=""):
1.56      dwinter  2092:         """get lines with word  fromFileId"""
1.51      dwinter  2093:         
1.56      dwinter  2094:         file=self.showFile(fileId)
1.66      dwinter  2095:         tagStr="""<span class="found">%s</span>"""
                   2096:         ret=[]
1.71      dwinter  2097:         
                   2098:         if regExp: # wenn regexp dann generiere alle worte aus der list die der regexp entsprechen
                   2099:             wordlist=self.findWordRegExp(indexName,word)
                   2100:         else:
                   2101:             wordlist=[word]
                   2102:             
1.66      dwinter  2103:         for line in file.split("\n"):
1.71      dwinter  2104:             found=False
                   2105:             for word in wordlist:
                   2106:                 if line.find(word)>-1: #word ist gefunden dann makiere und breche die Schleife ab
1.66      dwinter  2107:                         if lineList: #liste of moeglichen Zeilennummern
                   2108:                                 num=line.split(".")[0] #Zeilenummer ist alles vor dem . in der Zeile
                   2109: 
                   2110:                                 if num in lineList: 
                   2111: 
                   2112:                                         ret.append(line.replace(word,tagStr%word))
1.71      dwinter  2113:                         
1.66      dwinter  2114:                         else: # nimm alles ohne line check
                   2115:                                 ret.append(line.replace(word,tagStr%word))
1.71      dwinter  2116:                         found=True
                   2117:                         break
                   2118:             if not found: #word wurde nicht gefunden keine makierung
1.66      dwinter  2119:                         ret.append(line)
1.71      dwinter  2120:                         
1.66      dwinter  2121:         return "<br>\n".join(ret)
1.56      dwinter  2122: 
1.37      dwinter  2123:     def URLquote(self,str):
                   2124:         """quote url"""
                   2125:         return urllib.quote(str)
                   2126:     
                   2127:     def URLunquote(self,str):
                   2128:         """unquote url"""
                   2129:         return urllib.unquote(str)
                   2130:     
1.58      dwinter  2131:     def URLquote_plus(self,str):
                   2132:         """quote url"""
                   2133:         return urllib.quote_plus(str)
                   2134:     
                   2135:     def URLunquote_plus(self,str):
                   2136:         """unquote url"""
                   2137:         return urllib.unquote_plus(str)
                   2138:     
1.37      dwinter  2139:     
1.26      dwinter  2140:     def forceunlock(self):
                   2141:         "break all locks"
                   2142:         ret=[]
                   2143:         for f in self.ZopeFind(self,obj_metatypes="CDLI file",search_sub=1):
                   2144:            un=f[1].forceunlock()
1.39      dwinter  2145: 
1.26      dwinter  2146:            if un and un !="":
                   2147:                ret.append((f[0],un))
1.46      dwinter  2148: 
1.61      dwinter  2149:         return ret
1.71      dwinter  2150:                                         
1.61      dwinter  2151: 
1.26      dwinter  2152:     def getChangesByAuthor(self,author,n=100):
1.25      dwinter  2153:         """getChangesByAuthor"""
1.26      dwinter  2154:         zcat=self.CDLIObjectsCatalog
                   2155:         res=zcat({'lastEditor':author,
1.25      dwinter  2156:                      'sort_on':'getTime',
                   2157:                      'sort_order':'descending',
                   2158:                      'sort_limit':n})[:n ]
1.26      dwinter  2159:                        
                   2160:         return res
                   2161:     
                   2162:     def getChangesByAuthor_html(self,author,n=100):
                   2163:         """html output for changes by author"""
                   2164:         tmp={}
                   2165:         list=[]                         
                   2166:         for x in self.getChangesByAuthor(author):
                   2167:            nr=x.getObject().getVersionNumber()
                   2168:            id=x.getObject().aq_parent.getId()
                   2169:            #hinzufuegen, wenn Version neuer als die 
                   2170:            if tmp.get(id,(0,0))[1] < nr:
                   2171:                 tmp[id]=(x.getObject().aq_parent,nr)
                   2172: 
                   2173:      
1.45      dwinter  2174:         return self.cdli_main.findObjectsFromListWithVersion(list=tmp.values(),author=author)           
1.26      dwinter  2175:         
1.25      dwinter  2176:     def getLastChanges(self,n=100):
                   2177:         """get the last n changes""" 
                   2178:         n=int(n)                   
                   2179:         zcat=self.CDLICatalog
                   2180:         return zcat({'sort_on':'getLastChangeDate',
                   2181:                      'sort_order':'descending',
                   2182:                      'sort_limit':n})[:n ]
                   2183:      
                   2184:     
                   2185:     def getLastChanges_html(self,n=100):
                   2186:         """get the last n changes"""
                   2187:         list = [x.getId for x in self.getLastChanges(n)]
                   2188:         return self.cdli_main.findObjectsFromList(list=list,display=True)
                   2189:                                        
1.24      dwinter  2190:     def refreshTxt(self,txt="",threadName=None):
1.22      dwinter  2191:         """txt fuer refresh"""
                   2192:   
1.24      dwinter  2193:         return """ 2;url=%s?repeat=%s """%(self.absolute_url()+txt,threadName)
1.22      dwinter  2194: 
                   2195:     
1.24      dwinter  2196:     def getResult(self,threadName=None):
1.22      dwinter  2197:        """result of thread"""
                   2198:        try:
1.24      dwinter  2199:         return self._v_uploadATF[threadName].getResult()
1.22      dwinter  2200:        except:
                   2201:         return "One moment, please"
                   2202:     
1.24      dwinter  2203:         
                   2204:     def checkThreads(self):
                   2205:         """check threads"""
1.42      dwinter  2206:         ret="<html><body>"
                   2207:         for thread in threading.enumerate():
1.45      dwinter  2208:            ret+="<p>%s (%s): %s</p>"%(repr(thread),thread.getName(),thread.isAlive())
1.42      dwinter  2209:        
                   2210:         return ret
                   2211:                                        
                   2212:                                            
1.24      dwinter  2213:     
1.22      dwinter  2214:     def uploadATF(self,repeat=None,upload=None,basketId=0,RESPONSE=None):
1.69      dwinter  2215:         """upload an atf file / basket file"""
1.22      dwinter  2216:         #self._v_uploadATF.returnValue=None
1.71      dwinter  2217:         
                   2218:         #generate an random id for the upload thread
1.60      dwinter  2219:         from random import randint
1.61      dwinter  2220:         if (not self.REQUEST.SESSION.get('idTmp',None)):
1.22      dwinter  2221: 
1.60      dwinter  2222:             idTmp=str(randint(0,1000000000))
                   2223:             self.REQUEST.SESSION['idTmp']=idTmp
                   2224:         else:
                   2225:             idTmp=self.REQUEST.SESSION.get('idTmp',None)
                   2226:             
1.71      dwinter  2227:     
1.22      dwinter  2228:         threadName=repeat
                   2229:         if not threadName or threadName=="":
1.71      dwinter  2230:             #new thread not called from the waiting page
1.22      dwinter  2231:             tmpVar=False
1.24      dwinter  2232:        
1.22      dwinter  2233:             thread=uploadATFThread()
1.24      dwinter  2234:             threadName=thread.getName()[0:]                                
1.36      dwinter  2235:             if (not hasattr(self,'_v_uploadATF')):
1.24      dwinter  2236:                    self._v_uploadATF={}
                   2237:                                        
                   2238:             self._v_uploadATF[threadName]=thread
1.22      dwinter  2239:             #self._xmltrans.start()
                   2240:             #thread=Thread(target=self._v_uploadATF)
1.60      dwinter  2241:             logging.info("set thread. extern")
                   2242:             self._v_uploadATF[threadName].set(upload,basketId,self.REQUEST['AUTHENTICATED_USER'],idTmp,serverport=self.REQUEST['SERVER_PORT'])
1.22      dwinter  2243:             #thread.start()
1.60      dwinter  2244:             logging.info("start thread. extern")
1.24      dwinter  2245:             self._v_uploadATF[threadName].start()
1.22      dwinter  2246: 
                   2247:             
1.24      dwinter  2248:             self.threadName=self._v_uploadATF[threadName].getName()[0:]
1.22      dwinter  2249:             wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2250: 
                   2251:             if wait_template:
                   2252:                 return wait_template[0][1]()
                   2253:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
1.24      dwinter  2254:             return pt(txt='/uploadATF',threadName=threadName)
1.22      dwinter  2255:             #_v_xmltrans.run()
                   2256:             
                   2257:         else:
                   2258:             #recover thread, if lost
1.36      dwinter  2259:             if (not hasattr(self,'_v_uploadATF')):
1.24      dwinter  2260:                self._v_uploadATF={}
                   2261:             if not self._v_uploadATF.get(threadName,None):
1.22      dwinter  2262:                  for thread in threading.enumerate():
                   2263:                          if threadName == thread.getName():
1.24      dwinter  2264:                                        self._v_uploadATF[threadName]=thread
                   2265:                                        
1.60      dwinter  2266:             if self._v_uploadATF.get(threadName,None) and (not self._v_uploadATF[threadName].returnValue):
1.22      dwinter  2267:         
                   2268: 
                   2269:                 wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2270:                 if wait_template:
                   2271:                         return wait_template[0][1]()
                   2272:                 
                   2273:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
                   2274: 
1.24      dwinter  2275:                 return pt(txt='/uploadATF',threadName=threadName)
1.22      dwinter  2276:                 
                   2277:             else:
1.60      dwinter  2278:                 tmp=getattr(self.temp_folder,idTmp).returnValue
1.71      dwinter  2279:  
1.22      dwinter  2280:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadCheck.zpt')).__of__(self)
1.39      dwinter  2281: 
1.47      dwinter  2282:                 return pt(changed=tmp['changed'],lockerrors=tmp['lockerrors'],errors=tmp['errors'],dir=tmp['dir'],newPs=tmp['newPs'],basketLen=tmp['basketLen'],numberOfFiles=tmp['numberOfFiles'],
1.22      dwinter  2283:                   basketNameFromId=tmp['basketNameFromId'],basketNameFromFile=tmp['basketNameFromFile'],basketId=tmp['basketId'])
1.30      dwinter  2284:                      
                   2285:     def redoUpload(self,threadName):
                   2286:        """redo the upload"""
                   2287:        tmp=self.cdli_main.tmpStore2[threadName]
                   2288:        pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadCheck.zpt')).__of__(self)
1.45      dwinter  2289:        return pt(changed=tmp['changed'],lockerrors=tmp['lockerrors'],errors=tmp['errors'],dir=tmp['dir'],newPs=tmp['newPs'],basketLen=tmp['basketLen'],numberOfFiles=tmp['numberOfFiles'],
1.30      dwinter  2290:                   basketNameFromId=tmp['basketNameFromId'],basketNameFromFile=tmp['basketNameFromFile'],basketId=tmp['basketId'])
                   2291:                  
1.22      dwinter  2292:     def uploadATFfinally(self,procedure='',comment="",basketname='',unlock=None,repeat=None,RESPONSE=None):
                   2293:         """nowupload the files"""
                   2294:        
                   2295:        
                   2296:        
                   2297:         threadName=repeat
                   2298:         if not threadName or threadName=="":
1.24      dwinter  2299:             thread=uploadATFfinallyThread()
                   2300:             threadName=thread.getName()[0:]
1.36      dwinter  2301: 
1.35      dwinter  2302:             if (not hasattr(self,'_v_uploadATF')):
1.46      dwinter  2303:                                 self._v_uploadATF={}
1.36      dwinter  2304: 
1.43      dwinter  2305: 
1.24      dwinter  2306:             self._v_uploadATF[threadName]=thread
1.22      dwinter  2307: 
1.60      dwinter  2308:             idTmp=self.REQUEST.SESSION['idTmp']
                   2309:             stObj=getattr(self.temp_folder,idTmp)
                   2310:             self._v_uploadATF[threadName].set(procedure,comment=comment,basketname=basketname,unlock=unlock,SESSION=stObj.returnValue,username=self.REQUEST['AUTHENTICATED_USER'],serverport=self.REQUEST['SERVER_PORT'])
1.22      dwinter  2311: 
1.24      dwinter  2312:             self._v_uploadATF[threadName].start()
1.22      dwinter  2313: 
                   2314:             
1.24      dwinter  2315:             
1.22      dwinter  2316:             wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2317: 
                   2318:             if wait_template:
                   2319:                 return wait_template[0][1]()
                   2320:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
                   2321: 
1.24      dwinter  2322:             return pt(txt='/uploadATFfinally',threadName=threadName)
1.22      dwinter  2323:             #_v_xmltrans.run()
                   2324:         
                   2325:         else:
                   2326:             #recover thread, if lost
                   2327:             if not hasattr(self,'_v_uploadATF'):
1.24      dwinter  2328:                self._v_uploadATF={}
                   2329:             if not self._v_uploadATF.get(threadName,None):
1.22      dwinter  2330:                  for thread in threading.enumerate():
                   2331:                          if threadName == thread.getName():
1.24      dwinter  2332:                                        self._v_uploadATF[threadName]=thread
1.22      dwinter  2333:                                        
1.24      dwinter  2334:             if self._v_uploadATF.get(threadName,None) and (self._v_uploadATF[threadName] is not None) and (not self._v_uploadATF[threadName].end) :
1.22      dwinter  2335: 
                   2336:                 wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2337:                 if wait_template:
                   2338:                         return wait_template[0][1]()
                   2339:                 
                   2340:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
1.24      dwinter  2341:                 return pt(txt='/uploadATFfinally',threadName=threadName)
1.22      dwinter  2342:             else:
1.60      dwinter  2343:               self.REQUEST.SESSION['idTmp']=None
1.22      dwinter  2344:               if RESPONSE is not None:
                   2345:                   RESPONSE.redirect(self.absolute_url())
                   2346: 
1.49      dwinter  2347:     def importFiles(self,comment="",author="" ,folderName="/Users/dwinter/atf", files=None,ext=None):
1.1       dwinter  2348:         """import files"""
1.22      dwinter  2349:         root=self.cdli_main
1.49      dwinter  2350:         count=0
1.3       dwinter  2351:         if not files:
                   2352:             files=os.listdir(folderName)
                   2353:             
1.1       dwinter  2354:         for f in files:
                   2355:             folder=f[0:3]
                   2356:             f2=f[0:5]
1.22      dwinter  2357:             obj=self.ZopeFind(root,obj_ids=[folder])
1.19      dwinter  2358:             if ext:
                   2359:   
1.65      dwinter  2360:                 ext.result="<p>adding: %s </p>"%f+ext.result
1.1       dwinter  2361:             if not obj:
1.22      dwinter  2362:                 manage_addCDLIFileFolder(root,folder,folder)
                   2363:                 fobj=getattr(root,folder)
1.58      dwinter  2364:                 #transaction.get().commit()                           
1.1       dwinter  2365:             else:
                   2366:                 fobj=obj[0][1]
                   2367:             
                   2368:             obj2=fobj.ZopeFind(fobj,obj_ids=[f2])
                   2369:         
                   2370:             if not obj2:
                   2371:                 manage_addCDLIFileFolder(fobj,f2,f2)
                   2372:                 fobj2=getattr(fobj,f2)
                   2373:         
                   2374:             else:
                   2375:                 fobj2=obj2[0][1]
                   2376:               
1.48      dwinter  2377:             file2=os.path.join(folderName,f)  
1.1       dwinter  2378:             id=f
                   2379:             manage_addCDLIFile(fobj2,f,'','')
                   2380:             id=f
                   2381:             ob=fobj2._getOb(f)
                   2382:             ob.title=id
                   2383:             
1.48      dwinter  2384:             manage_addCDLIFileObject(ob,id,comment,author,file2,content_type='',from_tmp=True)
1.3       dwinter  2385:             self.CDLICatalog.catalog_object(ob)
                   2386:             #self.CDLICatalog.manage_catalogFoundItems(obj_ids=[id],search_sub=1)
                   2387:             #self.CDLICatalog.manage_catalogObject(self.REQUEST, self.REQUEST.RESPONSE, 'CDLICatalog', urlparse.urlparse(ob.absolute_url())[1])
1.66      dwinter  2388:             count+=1
1.49      dwinter  2389: 
1.66      dwinter  2390:             if count > 1000:
                   2391:                 print "committing"
                   2392:                 transaction.get().commit()
                   2393:                 count=0
                   2394:             transaction.get().commit()
1.3       dwinter  2395:         return "ok"
1.22      dwinter  2396:          
                   2397: 
                   2398: manage_addCDLIRootForm=DTMLFile('dtml/rootAdd', globals())
1.1       dwinter  2399: 
                   2400:     
1.22      dwinter  2401: def manage_addCDLIRoot(self, id, title='',
1.1       dwinter  2402:                      createPublic=0,
                   2403:                      createUserF=0,
                   2404:                      REQUEST=None):
                   2405:     """Add a new Folder object with id *id*.
                   2406: 
                   2407:     If the 'createPublic' and 'createUserF' parameters are set to any true
                   2408:     value, an 'index_html' and a 'UserFolder' objects are created respectively
                   2409:     in the new folder.
                   2410:     """
1.22      dwinter  2411:     ob=CDLIRoot()
1.1       dwinter  2412:     ob.id=str(id)
                   2413:     ob.title=title
1.61      dwinter  2414:     try:
1.66      dwinter  2415:         self._setObject(id, ob)
1.61      dwinter  2416:     except:
1.66      dwinter  2417:         pass
1.1       dwinter  2418:     ob=self._getOb(id)
                   2419: 
                   2420:     checkPermission=getSecurityManager().checkPermission
                   2421: 
                   2422:     if createUserF:
                   2423:         if not checkPermission('Add User Folders', ob):
                   2424:             raise Unauthorized, (
                   2425:                   'You are not authorized to add User Folders.'
                   2426:                   )
                   2427:         ob.manage_addUserFolder()
                   2428: 
                   2429:   
                   2430:     if REQUEST is not None:
1.22      dwinter  2431:         return self.manage_main(self, REQUEST, update_menu=1)    
                   2432:  

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>