Annotation of cdli/cdli_files.py, revision 1.74

1.22      dwinter     1: """CDLI extensions of the filearchive"""    
1.47      dwinter     2: from Products.versionedFile.extVersionedFile import *
1.1       dwinter     3: from Products.ZCatalog.CatalogPathAwareness import CatalogAware
1.22      dwinter     4: from tempfile import mkstemp,mkdtemp    
1.1       dwinter     5: import os.path
                      6: import os
                      7: from types import *
1.3       dwinter     8: import urlparse
1.49      dwinter     9: import urllib
                     10: import cgi
1.4       dwinter    11: from OFS.OrderedFolder import OrderedFolder
                     12: from OFS.SimpleItem import SimpleItem
                     13: import time
1.12      dwinter    14: from OFS.Folder import manage_addFolder
                     15: import re
1.19      dwinter    16: from AccessControl import ClassSecurityInfo
                     17: from Acquisition import Implicit
1.39      dwinter    18: from Globals import Persistent
1.19      dwinter    19: from threading import Thread
                     20: from ZPublisher.HTTPRequest import HTTPRequest
                     21: from ZPublisher.HTTPResponse import HTTPResponse
                     22: from ZPublisher.BaseRequest import RequestContainer
1.20      dwinter    23: import threading
1.53      dwinter    24: from BTrees.OOBTree import OOBTree
1.57      dwinter    25: import logging
1.58      dwinter    26: import transaction
1.61      dwinter    27: import copy
1.66      dwinter    28: import codecs
1.22      dwinter    29: 
1.73      dwinter    30: def generateXMLReturn(hash):
                     31:     """erzeugt das xml file als returnwert fuer uploadATFRPC"""
                     32: 
                     33:     ret="<return>"
                     34:     
                     35:     ret+="<errors>"
                     36:     for error in hash['errors']:
                     37:         ret+="""<error atf="%s">%s</error>"""%error
                     38:     
                     39:     ret+="</errors>"
                     40:     
                     41:     ret+="<changes>"
                     42:     for changed in hash['changed']:
                     43:         ret+="""<change atf="%s">%s</change>"""%changed
                     44:     ret+="</changes>"
                     45:     
                     46:     ret+="<newPs>"
                     47:     for new in hash['newPs']:
                     48:         ret+="""<new atf="%s"/>"""%new
                     49:     ret+="</newPs>"
                     50:     
                     51:     ret+="</return>"
                     52:     return ret
                     53:     
                     54:     
                     55:     
                     56:     
                     57:     
                     58:     
                     59:     
                     60:     
                     61:     
                     62:     
1.55      dwinter    63: def unique(s):
                     64:     """Return a list of the elements in s, but without duplicates.
                     65: 
                     66:     For example, unique([1,2,3,1,2,3]) is some permutation of [1,2,3],
                     67:     unique("abcabc") some permutation of ["a", "b", "c"], and
                     68:     unique(([1, 2], [2, 3], [1, 2])) some permutation of
                     69:     [[2, 3], [1, 2]].
                     70: 
                     71:     For best speed, all sequence elements should be hashable.  Then
                     72:     unique() will usually work in linear time.
                     73: 
                     74:     If not possible, the sequence elements should enjoy a total
                     75:     ordering, and if list(s).sort() doesn't raise TypeError it's
                     76:     assumed that they do enjoy a total ordering.  Then unique() will
                     77:     usually work in O(N*log2(N)) time.
                     78: 
                     79:     If that's not possible either, the sequence elements must support
                     80:     equality-testing.  Then unique() will usually work in quadratic
                     81:     time.
                     82:     (from the python cookbook)
                     83:     """
                     84: 
                     85:     n = len(s)
                     86:     if n == 0:
                     87:         return []
                     88: 
                     89:     # Try using a dict first, as that's the fastest and will usually
                     90:     # work.  If it doesn't work, it will usually fail quickly, so it
                     91:     # usually doesn't cost much to *try* it.  It requires that all the
                     92:     # sequence elements be hashable, and support equality comparison.
                     93:     u = {}
                     94:     try:
                     95:         for x in s:
                     96:             u[x] = 1
                     97:     except TypeError:
                     98:         del u  # move on to the next method
                     99:     else:
                    100:         return u.keys()
                    101: 
                    102:     # We can't hash all the elements.  Second fastest is to sort,
                    103:     # which brings the equal elements together; then duplicates are
                    104:     # easy to weed out in a single pass.
                    105:     # NOTE:  Python's list.sort() was designed to be efficient in the
                    106:     # presence of many duplicate elements.  This isn't true of all
                    107:     # sort functions in all languages or libraries, so this approach
                    108:     # is more effective in Python than it may be elsewhere.
                    109:     try:
                    110:         t = list(s)
                    111:         t.sort()
                    112:     except TypeError:
                    113:         del t  # move on to the next method
                    114:     else:
                    115:         assert n > 0
                    116:         last = t[0]
                    117:         lasti = i = 1
                    118:         while i < n:
                    119:             if t[i] != last:
                    120:                 t[lasti] = last = t[i]
                    121:                 lasti += 1
                    122:             i += 1
                    123:         return t[:lasti]
                    124: 
                    125:     # Brute force is all that's left.
                    126:     u = []
                    127:     for x in s:
                    128:         if x not in u:
                    129:             u.append(x)
                    130:     return u
                    131: 
                    132: 
1.39      dwinter   133: class BasketContent(SimpleItem):
                    134:     """classe fuer den Inhalt eines Baskets"""
                    135:     
                    136:     def __init__(self,content=[]):
                    137:         """content"""
                    138:         self.contentList=content[0:]
                    139:     
                    140:     def getContent(self):
                    141:         """get content"""
1.19      dwinter   142: 
1.39      dwinter   143:         return self.contentList
                    144:     
                    145:     def setContent(self,content):
                    146:         self.contentList=content[0:]
                    147:     
                    148:     def numberOfItems(self):
                    149:         """number"""
                    150:         
                    151:         return len(self.getContent())
                    152:         
                    153:     
1.19      dwinter   154: class uploadATFfinallyThread(Thread):
1.20      dwinter   155:     """class for adding uploaded filed (temporarily stored in the staging area at /tmp"""
                    156:     
1.19      dwinter   157:     def __init__(self):
1.20      dwinter   158:         """init for uploadATFfinallyThread"""
1.19      dwinter   159:         self.continueVar=True
                    160:         self.returnValue=None
                    161:         self.end=False
                    162:         Thread.__init__(self)
                    163:            
                    164:     def set(self,procedure,comment="",basketname='',unlock=None,SESSION=None,username=None,serverport="8080"):
1.20      dwinter   165:         """set start values for the thread"""
1.19      dwinter   166:         self.procedure=procedure
                    167:         self.comment=comment
                    168:         self.basketname=basketname
                    169:         self.unlock=unlock
                    170:         self.SESSION=SESSION
                    171:         self.username=username
                    172:         self.serverport=serverport
1.60      dwinter   173:        
1.19      dwinter   174:         
                    175:     def __call__(self):
1.20      dwinter   176:         """call of the thread (equals run)"""
1.19      dwinter   177:         self.run()
                    178:         return True
                    179:     
                    180:     def getContext(self, app,serverport="8080"):
1.20      dwinter   181:         """get the context within the ZODB"""
                    182:         
1.19      dwinter   183:         resp = HTTPResponse(stdout=None)
                    184:         env = {
                    185:             'SERVER_NAME':'localhost',
                    186:             'SERVER_PORT':serverport,
                    187:             'REQUEST_METHOD':'GET'
                    188:             }
                    189:         req = HTTPRequest(None, env, resp)
                    190:         return app.__of__(RequestContainer(REQUEST = req))
                    191:           
1.26      dwinter   192:         
1.19      dwinter   193:     def run(self):
1.20      dwinter   194:         """run"""
                    195:         
1.19      dwinter   196:         self.result=""
1.20      dwinter   197:         #find context within ZODB
1.19      dwinter   198:         from Zope import DB
                    199:         conn = DB.open()
                    200:         root = conn.root()
                    201:         app  = root['Application']
                    202:         ctx = self.getContext(app,serverport=self.serverport)
                    203: 
1.20      dwinter   204:         #add the files
1.19      dwinter   205:         self.uploadATFfinallyThread(ctx,self.procedure,comment=self.comment,basketname=self.basketname,unlock=self.unlock,SESSION=self.SESSION,username=self.username)
1.20      dwinter   206:         #commit the transactions
1.58      dwinter   207:         transaction.get().commit()
1.19      dwinter   208:         conn.close()
1.20      dwinter   209:         #set flag for end of this method
1.19      dwinter   210:         self.end=True
1.66      dwinter   211:         logging.info("ended")
                    212:         return True
1.19      dwinter   213:     
1.22      dwinter   214:     def __del__(self):
                    215:         """delete"""
                    216:         
                    217:         
                    218:     
1.19      dwinter   219:     def getResult(self):
1.20      dwinter   220:         """method for accessing result"""
                    221:         
1.19      dwinter   222:         return self.result
                    223:      
                    224:     def uploadATFfinallyThread(self,ctx,procedure,comment="",basketname='',unlock=None,RESPONSE=None,SESSION=None,username=None):
                    225:         """upload the files"""
1.20      dwinter   226:         #TODO: make this configurable, at the moment, rootFolder for cdli has to be cdliRoot
1.19      dwinter   227:         ctx2=ctx.cdliRoot
                    228:    
                    229:         self.result+="<h2>Start processing</h2>"
1.20      dwinter   230:         
                    231:         #shall I only upload the changed files?
1.73      dwinter   232:         logging.info("uploadATFfinally procedure: %s"%procedure)
1.19      dwinter   233:         if procedure=="uploadchanged":
1.66      dwinter   234:             changed=[x[0] for x in SESSION.get('changed',[])]
1.61      dwinter   235:             uploadFns=changed+SESSION.get('newPs',[])
1.19      dwinter   236:         
1.20      dwinter   237:         #or all
1.19      dwinter   238:         elif procedure=="uploadAll":
                    239:             uploadFns=[]
                    240:             for x in os.listdir(SESSION['tmpdir']):
1.45      dwinter   241:                 if not x in SESSION['lockerrors']:
1.19      dwinter   242:                     uploadFns.append(x)
1.20      dwinter   243:                     
                    244:         #or maybe nothing
1.19      dwinter   245:         elif procedure=="noupload":
                    246:                         return True
                    247:         else:
                    248:             uploadFns=[]
                    249:             
1.20      dwinter   250:         #do first the changed files    
1.65      dwinter   251:         i=0
1.19      dwinter   252:         for fn in uploadFns:
1.66      dwinter   253:             i+=1
1.19      dwinter   254:             founds=ctx2.CDLICatalog.search({'title':fn})
                    255:             if len(founds)>0:
                    256:                 SESSION['author']=str(username)
1.63      dwinter   257:                 self.result="<p>Changing : %s"%fn+self.result
1.49      dwinter   258:                 founds[0].getObject().manage_addCDLIFileObject('',comment,SESSION['author'],file=os.path.join(SESSION['tmpdir'],fn),from_tmp=True)
1.62      dwinter   259:             if i==200:
1.66      dwinter   260:                         i=0
                    261:                         transaction.get().commit()
                    262:                         logging.info("changing: do commit")
1.65      dwinter   263:         
                    264:         transaction.get().commit()
                    265:         logging.info("changing: last commit")
1.62      dwinter   266: 
1.20      dwinter   267:         #now add the new files        
1.19      dwinter   268:         newPs=SESSION['newPs']
                    269:         if len(newPs)>0:
                    270:             tmpDir=SESSION['tmpdir']
1.65      dwinter   271:             logging.info("adding start")
1.63      dwinter   272:             self.result="<p>Adding files</p>"+self.result
1.20      dwinter   273:             #TODO: make this configurable, at the moment base folder for the files has to be cdli_main
1.22      dwinter   274:             
                    275:             ctx2.importFiles(comment=comment,author=str(username) ,folderName=tmpDir, files=newPs,ext=self)
1.65      dwinter   276:             logging.info("adding finished")
1.19      dwinter   277:         
                    278:         
1.20      dwinter   279:         #unlock locked files?
1.19      dwinter   280:         if unlock:
1.65      dwinter   281:             logging.info("unlocking start")
1.63      dwinter   282:             self.result="<p>Unlock files</p>"+self.result
1.19      dwinter   283:             unlockFns=[]
                    284:             for x in os.listdir(SESSION['tmpdir']):
                    285:                     if not x in SESSION['errors']:
                    286:                         unlockFns.append(x)
1.65      dwinter   287:             logging.info("unlocking have now what to unlock")
                    288:                         
1.19      dwinter   289:             for fn in unlockFns:
1.65      dwinter   290:                 #logging.info("will unlock: %s"%fn)
1.19      dwinter   291:                 founds=ctx2.CDLICatalog.search({'title':fn})
1.65      dwinter   292:                 #logging.info("found it: %s"%repr(founds))
1.19      dwinter   293:                 if len(founds)>0:
1.65      dwinter   294:                     #logging.info("unlock: %s"%founds[0].getObject().getId())
1.19      dwinter   295:                     SESSION['author']=str(username)
                    296:                    
                    297:                     founds[0].getObject().lockedBy=""
1.65      dwinter   298:             logging.info("unlocking done")
1.19      dwinter   299:                     
1.65      dwinter   300:         #if a basketname is given, add files to the basket
1.19      dwinter   301:         if not (basketname ==''):
1.65      dwinter   302:             logging.info("add to basket %s"%basketname)
                    303:             self.result="<p>Add to basket</p>"+self.result
1.41      dwinter   304:             basketId=ctx2.basketContainer.getBasketIdfromName(basketname)
1.19      dwinter   305:             
                    306:             if not basketId: # create new basket
1.65      dwinter   307:                 logging.info("create basket %s"%basketname)
                    308:                 self.result="<p>Create a new basket</p>"+self.result
1.19      dwinter   309:                 ob=ctx2.basketContainer.addBasket(basketname)
                    310:                 basketId=ob.getId()
                    311:             basket=getattr(ctx2.basketContainer,str(basketId))
                    312:             ids=os.listdir(SESSION['tmpdir'])
                    313:             basket.addObjects(ids,deleteOld=True,username=str(username))    
                    314:                
                    315:         if RESPONSE is not None:
                    316:             RESPONSE.redirect(self.aq_parent.absolute_url())
                    317:         
                    318: 
1.65      dwinter   319:         logging.info("uploadfinally done")
1.19      dwinter   320:         return True
1.60      dwinter   321: 
                    322: class tmpStore(SimpleItem):
                    323:     """simple item"""
                    324:     meta_type="cdli_upload"
1.19      dwinter   325:     
1.60      dwinter   326:     def __init__(self,id):
                    327:         """init tmp"""
                    328:         self.id=id
                    329:         
1.19      dwinter   330: class uploadATFThread(Thread):
1.20      dwinter   331:     """class for checking the files befor uploading"""
1.19      dwinter   332:     
                    333:     def __init__(self):
1.20      dwinter   334:         """initialise"""
                    335:         
1.19      dwinter   336:         self.continueVar=True
                    337:         self.returnValue=None
                    338:         
                    339:         Thread.__init__(self)
                    340:         
                    341:         
1.60      dwinter   342:     def set(self,upload,basketId,username,idTmp,serverport="8080"):
1.20      dwinter   343:         """set start values for the thread"""
1.19      dwinter   344:         self.result=""
                    345:         self.upload=upload
                    346:         self.basketId=basketId
                    347:         self.username=username
                    348:         self.serverport=serverport
1.60      dwinter   349:         self.idTmp=idTmp
1.19      dwinter   350:         
                    351:     def __call__(self):
1.20      dwinter   352:         """call method """
1.19      dwinter   353:         self.run()
                    354:         return True
                    355:     
                    356:     def getContext(self, app,serverport="8080"):
1.20      dwinter   357:         """get the context within the ZODB"""
1.19      dwinter   358:         resp = HTTPResponse(stdout=None)
                    359:         env = {
                    360:             'SERVER_NAME':'localhost',
                    361:             'SERVER_PORT':serverport,
                    362:             'REQUEST_METHOD':'GET'
                    363:             }
                    364:         req = HTTPRequest(None, env, resp)
                    365:         return app.__of__(RequestContainer(REQUEST = req))
                    366:         
                    367:     def run(self):
1.60      dwinter   368:         idTmp=self.idTmp
1.19      dwinter   369:         self.result=""
1.20      dwinter   370:         #find context within ZODB
1.19      dwinter   371:         from Zope import DB
                    372:         conn = DB.open()
                    373:         root = conn.root()
                    374:         app  = root['Application']
                    375:         ctx = self.getContext(app,serverport=self.serverport)
1.60      dwinter   376:         logging.info("run intern")
1.63      dwinter   377:         try:
1.73      dwinter   378:             logging.info("created: %s"%idTmp)
1.63      dwinter   379:             ctx.temp_folder._setObject(idTmp,tmpStore(idTmp))
                    380:         except:
                    381:             logging.error("thread upload: %s %s"%sys.exc_info()[0:2])
                    382:             
1.60      dwinter   383:         logging.info("call thread intern")
                    384:         self.uploadATFThread(ctx,self.upload,idTmp,self.basketId)
1.24      dwinter   385:      
1.30      dwinter   386:         #ctx.cdliRoot.cdli_main.tmpStore2[self.getName()[0:]]=self.returnValue
1.58      dwinter   387:         
1.66      dwinter   388:         
1.58      dwinter   389:         transaction.get().commit()
1.49      dwinter   390:        
1.19      dwinter   391:         conn.close()
1.22      dwinter   392:         
1.73      dwinter   393:         return getattr(ctx.temp_folder,idTmp)
1.19      dwinter   394:         
                    395:     def getResult(self):
1.20      dwinter   396:         """method for accessing result"""
1.19      dwinter   397:         return self.result
                    398:     
1.60      dwinter   399:     def uploadATFThread(self,ctx,upload,idTmp,basketId=0):
1.19      dwinter   400:         """upload an atf file"""
                    401:         #TODO: add comments
                    402:         #TODO: finish uploadATF
1.60      dwinter   403:         
                    404:         stObj=getattr(ctx.temp_folder,idTmp)
                    405:         logging.info("start, upload thread")
1.25      dwinter   406:         self.result="<html><body><h2>I got your file, start now to split it into single atf-files!</h2><p>"
                    407:     
1.20      dwinter   408:         #make sure that id is a string and not an integer
1.19      dwinter   409:         basketId=str(basketId)
                    410:         
1.20      dwinter   411:         #TODO: make this configurable, at the moment, rootFolder for cdli has to be cdliRoot
                    412:         ctx2=ctx.cdliRoot
1.19      dwinter   413:         
1.20      dwinter   414:         #get temporary file for staging the downloaded and splitted files
1.19      dwinter   415:         dir=mkdtemp()
1.20      dwinter   416:         
                    417:         
                    418:         changed=[] # changed files
                    419:         errors=[]  # files with errors
1.45      dwinter   420:         lockerrors=[]  # files with errors
                    421: 
1.20      dwinter   422:         newPs=[]   # new p filed
                    423:         psNotInCatalog=[] # files not in the catalog
                    424:         
                    425:         #split the uploadedd atf file
1.25      dwinter   426:         basketNameFromFile, numberOfFiles=splitatf(upload,dir,ext=self)
1.19      dwinter   427:         
1.20      dwinter   428:         #find basketId if not set
                    429:         
                    430:         #get active abaket
1.19      dwinter   431:         if basketId == '0':
                    432:             basketObj=ctx2.basketContainer.getActiveBasket()
                    433:             if basketObj:
                    434:                 basketId=basketObj.getId()
                    435:                 
1.45      dwinter   436:         #if there is no active basket and no basketid given, id is empty, else get besketname and length
1.19      dwinter   437:         if basketId == '0':
                    438:             basketNameFromId=""
                    439:             basketLen=0
                    440:         else:
                    441:             basketNameFromId=getattr(ctx2.basketContainer,basketId).title
                    442:             basketLen=getattr(ctx2.basketContainer,basketId).getLastVersion().numberOfItems()
                    443:             
1.60      dwinter   444:         logging.info("got the file, upload thread")
1.25      dwinter   445:         self.result+="""<html><body><h2>I got the files</h2><
                    446:                         p>I am computing the differences to the exisiting files</p>"""
1.20      dwinter   447:                                    
                    448:         #start to check the files
1.19      dwinter   449:         for fn in os.listdir(dir):
                    450:             
1.63      dwinter   451:             self.result="<p>process:%s</p>"%fn+self.result
1.19      dwinter   452:             
1.20      dwinter   453:             # check if file is in the catalog
                    454:             #TODO: checkCatalog is not implemented yet
1.19      dwinter   455:             if ctx2.cdli_main.checkCatalog(fn):
                    456:                 psNotInCatalog.append(fn)
                    457:                 
1.20      dwinter   458:             #check if p-file already at the server  
1.19      dwinter   459:             founds=ctx2.CDLICatalog.search({'title':fn})    
                    460:       
1.20      dwinter   461:             #if not than add filename to the list of newfiles
1.46      dwinter   462:             
                    463:             data=file(os.path.join(dir,fn)).read()
1.69      dwinter   464:             status,msg=checkFile(fn,data,dir)
                    465:             #status=True
                    466:             
                    467:             
1.46      dwinter   468:             if not status: # error
                    469:                 errors.append((fn,msg))
1.69      dwinter   470:             
1.46      dwinter   471:             else:
                    472:                 if len(founds)==0:
                    473:                     newPs.append(fn)
                    474: 
                    475:                 #if p file alread at the server    
                    476:                 for found in founds:
                    477:                     #analyse the differences to the actual file
                    478:                     obj=found.getObject()
                    479: 
                    480:                     if (not (str(obj.lockedBy))=='') and (not (str(obj.lockedBy)==str(self.username))):
1.63      dwinter   481:                                 lockerrors.append((fn,str(obj.lockedBy)))
1.46      dwinter   482:                     else:
                    483:                 
                    484:                         diffs=obj.diff(data)
                    485:                         if diffs[0]>0:
                    486:                             changed.append((obj,diffs)) #hochladen
1.31      dwinter   487: 
1.20      dwinter   488:         #ready, set the returnValues
1.19      dwinter   489:         self.result+="<h3>Done</h3></body></html>"
                    490:         
1.60      dwinter   491:         stObj.returnValue={}
1.19      dwinter   492:         
1.60      dwinter   493:         stObj.returnValue['errors']=errors
1.69      dwinter   494:         
1.60      dwinter   495:         stObj.returnValue['newPs']=newPs
                    496:         stObj.returnValue['tmpdir']=dir
                    497:         stObj.returnValue['basketLen']=basketLen
                    498:         stObj.returnValue['numberOfFiles']=numberOfFiles
                    499:         stObj.returnValue['basketNameFromId']=basketNameFromId
                    500:         stObj.returnValue['basketNameFromFile']=basketNameFromFile
                    501:         stObj.returnValue['basketId']=basketId
                    502:         stObj.returnValue['dir']=dir
1.61      dwinter   503:         #stObj.returnValue['changed']=copy.copy(changed)
                    504:         stObj.returnValue['changed']=[(x[0].getId(),x[1][0]) for x in changed]
                    505:         #stObj.returnValue['lockerrors']=[x[0].getId() for x in lockerrors]
1.63      dwinter   506:         stObj.returnValue['lockerrors']=[x for x in lockerrors]
1.60      dwinter   507:         self.returnValue=True
1.19      dwinter   508:         #ctx2.cdli_main.setTemp('v_uploadATF_returnValue',True)
                    509:     
1.63      dwinter   510:  
1.4       dwinter   511: class CDLIBasketContainer(OrderedFolder):
                    512:     """contains the baskets"""
                    513:     
                    514: 
1.9       dwinter   515:     security=ClassSecurityInfo()
1.4       dwinter   516:     meta_type="CDLIBasketContainer"
                    517:     
1.73      dwinter   518:     def getPNumbersOfBasket(self,basketName):
                    519:         """get all pnumbers of a basket as a list, returns an empty list if basket not found
                    520:         @param basketName: name of the basket
                    521:         """
                    522:         ret=[]
                    523:         basketId=self.getBasketIdfromName(basketName)
                    524:         if not basketId:
                    525:             return []
                    526:         
                    527:         ob=getattr(self,basketId).getContent()
                    528:         
                    529:         ret=[x[0].split(".")[0] for x in ob]
                    530:         
                    531:         return ret
                    532:     
                    533:     def getBasketAsOneFile(self,basketName,current="no"):
                    534:         """returns all files of the basket combined in one file
                    535:         @param basketName: Name of the basket
                    536:         @param current: (optional) if current is set to "yes" then the most current version of 
                    537:                         all files are downloaded and not the versions of the files as stored in the basket
                    538:         """
                    539:         ret=""
                    540:         basketId=self.getBasketIdfromName(basketName)
                    541:         if not basketId:
                    542:             return ""
                    543:         
                    544:         ob=getattr(self,basketId).getLastVersion()
                    545:         for object in ob.getContent():
                    546:             if current=="no": #version as they are in the basket
                    547:                             ret+=str(object[0].getData())+"\n"
                    548:             elif current=="yes":
                    549:                             #search current object
                    550:                             logging.info("crrent: %s"%object[1].getId().split(".")[0])
                    551:                             founds=self.CDLICatalog.search({'title':object[1].getId().split(".")[0]})
                    552:                             if len(founds)>0:      
                    553:                                 ret+=str(founds[0].getObject().getLastVersion().getData())+"\n"
                    554:         return ret
                    555:     
1.39      dwinter   556:     def upDateBaskets(self):
                    557:         """update content in to objects"""
                    558:         
                    559:         founds=self.ZopeFind(self,obj_metatypes=['CDLIBasketVersion'],search_sub=1)
                    560: 
                    561:         for found in founds:
                    562:             found[1].updateBasket()
                    563:         
1.32      dwinter   564:     security.declareProtected('manage','deleteBaskets')        
1.12      dwinter   565:     def deleteBaskets(self,ids=None):
                    566:         """delete baskets, i.e. move them into trash folder"""
                    567:         
                    568:         
                    569:         found=self.ZopeFind(self,obj_ids=['trash'])
                    570:         
                    571:         if len(found)<1:
                    572:             manage_addFolder(self, 'trash')
                    573:             trash=self._getOb('trash')
                    574:         else:
                    575:             trash=found[0][1]
                    576:         
                    577:         if type(ids) is not ListType:
                    578:             ids=[ids]
                    579:         cut=self.manage_cutObjects(ids)
                    580:         trash.manage_pasteObjects(cut)
                    581:         
1.32      dwinter   582:     security.declareProtected('manage','manageBaskets')       
1.73      dwinter   583:     def manageBaskets(self,submit,ids=None,basket1="",basket2="",joinBasket="",subtractBasket="",REQUEST=None,RESPONSE=None):
1.12      dwinter   584:         """manage baskets, delete or copy"""
                    585:         if submit=="delete":
                    586:             self.deleteBaskets(ids)
                    587:         
1.72      dwinter   588:         elif submit=="join":
1.73      dwinter   589:             flag,msg=self.joinBasket(joinBasket, ids)
1.72      dwinter   590:             logging.info("joining %s %s"%(flag,msg))
                    591:             
                    592:         elif submit=="subtract":
                    593:             logging.info("BBBb %s %s"%(basket1,basket2))
1.73      dwinter   594:             flag,msg=self.subtractBasket(subtractBasket, basket1,basket2)
1.72      dwinter   595:             logging.info("subtract %s %s"%(flag,msg))
1.12      dwinter   596:             
                    597:         if RESPONSE:
                    598:             RESPONSE.redirect(self.absolute_url())
1.32      dwinter   599:     
1.33      dwinter   600:     security.declareProtected('View','getBasketIdfromName')       
1.5       dwinter   601:     def getBasketIdfromName(self,basketname):
                    602:         """get id from name"""
                    603: 
                    604:         for basket in self.ZopeFind(self,obj_metatypes=["CDLIBasket"]):
                    605:             if basket[1].title==basketname:
                    606:                 return basket[0]
                    607:         else:
                    608:             None
1.9       dwinter   609:     
                    610:     security.declareProtected('manage','uploadBasket_html')        
                    611:             
1.4       dwinter   612:     def uploadBasket_html(self,basketId='0'):
                    613:         """upload an atf file, html form"""
1.9       dwinter   614:         
                    615: 
1.4       dwinter   616:         basketId=str(basketId)
                    617:         if not basketId=='0':
                    618:             basketName=getattr(self.basketContainer,basketId).title
                    619:         else:
                    620:             basketName=""
                    621:             
                    622:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadBasket_html.zpt')).__of__(self)
                    623:         return pt(basketId=basketId,basketName=basketName)
                    624:    
                    625: 
1.32      dwinter   626:     security.declareProtected('View','index_html')    
1.4       dwinter   627:     def index_html(self):
                    628:         """stanadard ansicht"""
1.9       dwinter   629:         
                    630: 
                    631: 
1.4       dwinter   632:         ext=self.ZopeFind(self,obj_ids=["index.html"])
                    633:         if ext:
                    634:             return ext[0][1]()
                    635:         
                    636:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','BasketContainerMain')).__of__(self)
                    637:         return pt()
                    638:     
                    639:     def getStorageFolderRoot(self):
                    640:         """root des storage folders"""
                    641:         return self.cdli_main
                    642:     
                    643:     def __init__(self,id,title):
                    644:         """ init basket container"""
                    645:         self.id=id
                    646:         self.title=title
                    647:      
1.51      dwinter   648:  
1.49      dwinter   649:     def getBasketsId(self):
                    650:         """get all baskets als klartext"""
1.51      dwinter   651:         
                    652:         ret=""
1.49      dwinter   653:         baskets=self.ZopeFind(self,obj_metatypes=['CDLIBasket'])
                    654:         for basket in baskets:
                    655:             com,user,time,values = basket[1].getContentIds()
                    656:             ret+= "BASKET:"+com+"\t"+user+"\t"+time+"\n"
                    657:             for x in values:
                    658:                 ret+= x[0]+"\t"+x[1]+"\n"
1.66      dwinter   659:                 return ret
1.49      dwinter   660: 
1.4       dwinter   661:     def getBaskets(self,sortField='title'):
                    662:         """get all baskets files"""
                    663: 
                    664:         def sortName(x,y):
                    665:             return cmp(x[1].title.lower(),y[1].title.lower())
                    666: 
                    667:         def sortDate(x,y):
                    668:             return cmp(y[1].getLastVersion().getTime(),x[1].getLastVersion().getTime())
                    669: 
                    670:         
                    671:         def sortComment(x,y):
                    672: 
                    673:         
                    674:             
                    675:              try:
                    676:                 xc=getattr(x[1],'comment','ZZZZZZZZZZZZZ').lower()
                    677:              except:
                    678:                 xc='ZZZZZZZZZZZZZ'.lower()
                    679:              try:
                    680:                 yc=getattr(y[1],'comment','ZZZZZZZZZZZZZ').lower()
                    681:              except:
                    682:                 yc='ZZZZZZZZZZZZZ'.lower()
                    683:     
                    684:     
                    685:              if (xc=='') or (xc=='ZZZZZZZZZZZZZ'.lower()):
                    686:                  
                    687:                  try:
                    688:                      xc=x[1].getLastVersion().getComment().lower()
                    689:                  except:
                    690:                      xc='ZZZZZZZZZZZZZ'.lower()
                    691:                      
                    692:              if (yc=='') or (yc=='ZZZZZZZZZZZZZ'.lower()):
                    693:                  try:
                    694:                      yc=y[1].getLastVersion().getComment().lower()
                    695:                  except:
                    696:                      yc='ZZZZZZZZZZZZZ'.lower()
                    697:     
                    698:              
                    699:                  return cmp(xc,yc)
                    700:         
                    701:         def sortAuthor(x,y):
                    702:             
                    703:             return cmp(x[1].getLastVersion().getUser().lower(),y[1].getLastVersion().getUser().lower())
                    704:         
                    705:         baskets=self.ZopeFind(self,obj_metatypes=['CDLIBasket'])
                    706:         
                    707:         
                    708:         if sortField=='title':
                    709:             baskets.sort(sortName)
                    710:         elif sortField=='date':
                    711:             baskets.sort(sortDate)
                    712:         elif sortField=='author':
                    713:             baskets.sort(sortAuthor)
                    714:         elif sortField=='comment':
                    715:             baskets.sort(sortComment)
1.39      dwinter   716: 
1.4       dwinter   717:         return baskets
1.72      dwinter   718:     
                    719:         
                    720:     def subtractBasket(self,newBasket,basket1,basket2):
                    721:         """subtract basket2 from basket1 
                    722:         (i.e. newbasket will contain alle elements of basket1 which are not in basket2), 
                    723:         if basket2 contains files which are not in basket1, then theses files fill be ignored
                    724:                
                    725:         @param newbasket: name of the new basket
                    726:         @param basket1: basket where basket2 will be subtracted from
                    727:         @param basket2: see above
                    728:       
                    729:         """
                    730:         logging.info("CCCCC %s %s"%(basket1,basket2))
                    731:    
                    732:         try:
                    733:             newB=self.addBasket(newBasket)
                    734:         except:
                    735:             return False, "cannot create the new basket"
                    736:         
                    737:         
1.4       dwinter   738: 
1.72      dwinter   739:        
                    740:      
                    741:         bas2= getattr(self,basket2)            
                    742:         bas2content=bas2.getContent()
                    743:         bas2ids=[x[0] for x in bas2content]
                    744:         
                    745:        
                    746:             
                    747:         bas1= getattr(self,basket1)   
                    748:         bas1content=bas1.getContent()
                    749:         
                    750:         
                    751:         newBasketContent={}
                    752:         
                    753:         for id,version in bas1content:
                    754:             if not (id in bas2ids):
                    755:                 newBasketContent[id]=version
                    756:         
                    757:         username=self.getActualUserName()
                    758:         
                    759:         logging.info("sbc %s"%newBasketContent)
                    760:         newB.addObjectsWithVersion(newBasketContent,username=username,catalog=self.CDLICatalog)
                    761:         
                    762:         return True, ""
                    763:     
                    764:             
                    765:     def joinBasket(self,newBasket,oldBaskets):
1.71      dwinter   766:         """join two baskets
                    767:         @param newbasket: name of the new basket
                    768:         @param oldbaskets: list of baskets to be joined
                    769:         """
1.72      dwinter   770:         try:
                    771:             newB=self.addBasket(newBasket)
                    772:         except:
                    773:             return False, "cannot create the new basket"
                    774:         
                    775:         newBasketContent={}
                    776:         for ob in oldBaskets:
                    777:             x= getattr(self,ob,None)
                    778:             if x is None:
                    779:                 return False, "cannot find basket: %s"%ob
                    780:             
                    781:             ids=x.getContent() # hole den Inhalt
                    782:             
                    783:             for id,version in ids:
                    784:                 if newBasketContent.has_key(id): # p number gibt's schon
                    785:                     newBasketContent[id]=max(newBasketContent[id],version) # speichere die groessere Versionsnumber
                    786:                 else:
                    787:                     newBasketContent[id]=version
                    788:         username=self.getActualUserName()
                    789:         
                    790:         logging.info("nbc %s"%newBasketContent)
                    791:         newB.addObjectsWithVersion(newBasketContent,username=username,catalog=self.CDLICatalog)
                    792:         
                    793:         return True, ""
                    794:     
1.4       dwinter   795:     def getNewId(self):
                    796:         """createIds"""
                    797:         last=getattr(self,'last',0)
                    798:         last +=1
                    799:         while len(self.ZopeFind(self,obj_ids=[str(last)]))>0:
                    800:             last+=1
                    801:     
                    802:         self.last=last
                    803:         return last
                    804:     
1.6       dwinter   805:     def setActiveBasket(self,basketId,REQUEST=None):
1.4       dwinter   806:         """store active basketId in a cookie"""
                    807:         self.REQUEST.RESPONSE.setCookie("CDLIActiveBasket",basketId,path="/")
1.66      dwinter   808:         try:
                    809:             qs=cgi.parse_qs(REQUEST['QUERY_STRING'])
                    810:             del(qs['basketId'])
                    811:         except:
                    812:             qs={}
1.6       dwinter   813:         if REQUEST:
1.49      dwinter   814:             REQUEST.RESPONSE.redirect(REQUEST['URL1']+'?'+urllib.urlencode(qs))
1.6       dwinter   815:             
1.4       dwinter   816:     def getActiveBasket(self):
                    817:         """get active basket from cookie"""
                    818:         
                    819:         id= self.REQUEST.cookies.get('CDLIActiveBasket',None)
1.6       dwinter   820:         if id:
                    821:             obj=getattr(self,str(id),None)
                    822:         else:
                    823:             obj=None
1.4       dwinter   824:         return obj
1.6       dwinter   825:     
1.4       dwinter   826:     def getActualUserName(self):
                    827:         """get name of the actualuser"""
                    828:         return str(self.REQUEST['AUTHENTICATED_USER'])
                    829:     
                    830:     
                    831:     def addBasket(self,newBasketName):
                    832:         """add a new basket"""
                    833:         
                    834:         ob=manage_addCDLIBasket(self,newBasketName)
                    835:         return ob
1.72      dwinter   836: 
1.6       dwinter   837:     def storeInBasket(self,submit,ids=None,newBasketName=None,fromFileList=None,RESPONSE=None,REQUEST=None):
1.4       dwinter   838:         """store it"""
1.6       dwinter   839:         if not ids:
                    840:             ids=self.REQUEST.SESSION['fileIds']
                    841:             
1.4       dwinter   842:         if type(ids) is not ListType:
                    843:             ids=[ids]
                    844:         
1.6       dwinter   845:         if (submit.lower()=="store in new basket") or (submit.lower()=="new basket"):
1.4       dwinter   846:             basketRet=self.addBasket(newBasketName)
                    847:             self.setActiveBasket(basketRet.getId())
                    848:             basket=getattr(self,basketRet.getId())
1.6       dwinter   849:         elif (submit.lower()=="store in active basket") or (submit.lower()=="active basket"):
1.4       dwinter   850:             basket=self.getActiveBasket()
1.6       dwinter   851:         
                    852:         added=basket.addObjects(ids)
                    853:         back=self.REQUEST['HTTP_REFERER'].split("?")[0]+"?basketName="+basket.title+"&numberOfObjects="+str(added)
                    854:         
                    855:         
                    856:         if fromFileList:
1.7       dwinter   857: 
1.6       dwinter   858:             return self.cdli_main.findObjectsFromList(list=self.REQUEST.SESSION['fileIds'],basketName=basket.title,numberOfObjects=added)
                    859:        
1.4       dwinter   860:         if RESPONSE:
1.6       dwinter   861:             
1.4       dwinter   862:             RESPONSE.redirect(back)
                    863:             
1.6       dwinter   864:         return True
                    865:     
1.4       dwinter   866: def manage_addCDLIBasketContainerForm(self):
                    867:     """add the CDLIBasketContainer form"""
                    868:     pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','addCDLIBasketContainer.zpt')).__of__(self)
                    869:     return pt()
                    870: 
                    871: def manage_addCDLIBasketContainer(self,id,title,RESPONSE=None):
                    872:     """add the basket"""
                    873:     ob=CDLIBasketContainer(id,title)
                    874:     
                    875:     self._setObject(id, ob)
                    876:     
                    877:     if RESPONSE is not None:
                    878:         RESPONSE.redirect('manage_main')
                    879: 
1.5       dwinter   880: class CDLIBasket(Folder,CatalogAware):
1.4       dwinter   881:     """basket"""
                    882:     
                    883:     meta_type="CDLIBasket"
1.5       dwinter   884:     default_catalog="CDLIBasketCatalog"
1.4       dwinter   885:     
1.74    ! dwinter   886:     def searchInBasket(self,searchStr):
        !           887:         """search occurences of searchStr in files im basket"""
        !           888:         ret=[]
        !           889:         lv=self.getLastVersion()
        !           890:         logging.info("searching")
        !           891:         for obj in lv.content.getContent():
        !           892:             txt=obj[0].getData()
        !           893:             for x in txt.split("\n"):
        !           894:                 logging.info("search %s"%x)
        !           895:                 if re.match(searchStr,x):
        !           896:                     ret.append(x)
        !           897:         
        !           898:         return "\n".join(ret)
        !           899:                 
        !           900:             
1.4       dwinter   901:     def getFile(self,obj):
                    902:         return obj[1]
                    903:     
                    904:     def getFileLastVersion(self,obj):
                    905:         return obj[0]
                    906:     
1.5       dwinter   907:     def getFileNamesInLastVersion(self):
                    908:         """get content of the last version as list"""
                    909:         
                    910:         return [x[1].getId() for x in self.getLastVersion().getContent()]
                    911:     
1.37      dwinter   912: 
1.4       dwinter   913:     def isActual(self,obj):
                    914:         """teste ob im basket die aktuelle version ist"""
                    915:         actualNo=obj[1].getLastVersion().getVersionNumber()
                    916:         storedNo=obj[0].getVersionNumber()
1.12      dwinter   917:         
                    918:         founds=self.CDLICatalog.search({'title':obj[0].getId()})
1.37      dwinter   919:         if len(founds)>0:
                    920:             actualNo=founds[0].getObject().getLastVersion().getVersionNumber()
                    921:             
1.12      dwinter   922:         if len(founds)>0 and founds[0].getObject().aq_parent.getId()==".trash":
                    923:             return False, -1
                    924:         
1.4       dwinter   925:         if actualNo==storedNo:
1.12      dwinter   926:             return True , 0
1.4       dwinter   927:         else:
1.12      dwinter   928:             return False, actualNo
1.4       dwinter   929:         
                    930:     def history(self):
                    931:         """history"""  
                    932: 
                    933:         ext=self.ZopeFind(self.aq_parent,obj_ids=["history_template.html"])
                    934:         if ext:
                    935:             return getattr(self,ext[0][1].getId())()
                    936:         
                    937:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','BasketHistory')).__of__(self)
                    938:         return pt()
                    939:     
                    940:     def getStorageFolderRoot(self):
                    941:         """root des storage folders"""
                    942:         return self.aq_parent.cdli_main
                    943:     
                    944:     def __init__(self,id,title,shortDescription="",comment=""):
                    945:         """init a CDLIBasket"""
                    946:         
                    947:         self.id=id
                    948:         self.title=title
                    949:         self.shortDescription=shortDescription
                    950:         self.comment=comment
                    951:  
1.72      dwinter   952:     def getActualUserName(self):
                    953:         """get name of the actualuser"""
                    954:        
                    955:         return str(self.REQUEST['AUTHENTICATED_USER'])
                    956:   
1.4       dwinter   957:            
                    958:     def getLastVersion(self):
                    959:         """hole letzte version"""
1.39      dwinter   960: 
                    961:         ids=[]
                    962:         idsTmp= self.objectIds()
                    963:         for x in idsTmp:
                    964:             try:
                    965:                 ids.append(int(x))
                    966:             except:
                    967:                 pass
1.4       dwinter   968:         ids.sort()
1.39      dwinter   969:       
1.4       dwinter   970:         if len(ids)==0:
                    971:             return None
                    972:         else:    
                    973:             ob=getattr(self,str(ids[-1]))
1.39      dwinter   974: 
                    975:             
1.4       dwinter   976:             return ob
                    977:    
                    978:     def getVersions(self):
                    979:         """get versions"""
                    980:         versions=self.ZopeFind(self,obj_metatypes=["CDLIBasketVersion"])
                    981:         return versions
                    982: 
                    983:    
1.37      dwinter   984:     def updateObjects(self,ids,RESPONSE=None,REQUEST=None):
                    985:         """update ids, ids not in the basket the add"""
                    986:         if type(ids) is not ListType:
                    987:             ids=[ids]
                    988:        
                    989:         lastVersion=self.getLastVersion() 
1.39      dwinter   990:         oldContent=lastVersion.content.getContent()
1.37      dwinter   991:         newContent=[]
                    992:         
                    993:         #first copy the old
                    994:         for obj in oldContent:
                    995:             if obj[1].getId() not in ids:
                    996:                 newContent.append(obj)
                    997:         #now add the new
                    998:                
                    999:         for id in ids:
                   1000:             founds=self.CDLICatalog.search({'title':id})
                   1001: 
                   1002:             for found in founds:
                   1003:                 if found.getObject() not in oldContent:
                   1004:                     #TODO: was passiert wenn, man eine Object dazufŸgt, das schon da ist aber eine neuere version
                   1005:                     newContent.append((found.getObject().getLastVersion(),found.getObject()))
                   1006:         
                   1007: 
                   1008:         content=newContent 
                   1009:         user=self.getActualUserName()
                   1010:         
                   1011:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=newContent)
                   1012:         
1.38      dwinter  1013:         obj=self._getOb(ob.getId())
1.37      dwinter  1014:         if RESPONSE:
1.38      dwinter  1015:            
1.37      dwinter  1016:             RESPONSE.redirect(obj.absolute_url())
1.38      dwinter  1017:         
                   1018:         return obj
                   1019:     
1.72      dwinter  1020:     def addObjectsWithVersion(self,ids,deleteOld=None,username=None,catalog=None):
                   1021:         """generate a new version of the basket with objects added, 
                   1022:         hier wird jedoch nicht die letzte Version jedes Files hinzugefuegt, s
                   1023:         ondern ids is ein Tupel mit der Id (d.h. der p-number) und der Versionsnummer.
                   1024:         """
                   1025:         logging.info("add to basket (%s)"%(self.getId()))
                   1026:         lastVersion=self.getLastVersion()
                   1027:         
                   1028:         if not catalog:
                   1029:             catalog=self.CDLICatalog
                   1030:             
                   1031:         if lastVersion is None:
                   1032:             oldContent=[]
                   1033:         else:
                   1034:             oldContent=lastVersion.content.getContent()
                   1035: 
                   1036:         if deleteOld:
                   1037:             oldContent=[]
                   1038: 
                   1039:         newContent=[]
                   1040:         added=0
                   1041:        
                   1042:         for id,version in ids.iteritems():
                   1043:             logging.info("adding %s %s"%(id,version))
                   1044:             id=id.split(".")[0] # title nur die pnumber ohne atf
                   1045:            
                   1046:             try:
                   1047:                 founds=catalog.search({'title':id})
                   1048:             except:
                   1049:                 founds=[]
                   1050:             logging.info(" found %s "%(founds))
                   1051:             for found in founds:
                   1052:                 if found.getObject() not in oldContent:
                   1053:                  
                   1054:                     #TODO: was passiert wenn, man eine Object dazufŸgt, das schon da ist aber eine neuere version
                   1055:                     newContent.append((found.getObject().getVersions()[version-1][1],found.getObject()))
                   1056:                     added+=1
                   1057: 
                   1058:         content=oldContent+newContent
                   1059:         if not username:
                   1060:             logging.error("XXXXXXXXXXX %s"%repr(self))
                   1061:             user=self.getActualUserName()
                   1062:         else:
                   1063:             user = username
                   1064:             
                   1065:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=content)
                   1066:         logging.info("add to basket (%s) done"%(self.getId()))
                   1067:         return added
                   1068:     
                   1069:     
1.19      dwinter  1070:     def addObjects(self,ids,deleteOld=None,username=None):
1.4       dwinter  1071:         """generate a new version of the basket with objects added"""
1.65      dwinter  1072:         logging.info("add to basket (%s)"%(self.getId()))
1.4       dwinter  1073:         lastVersion=self.getLastVersion()
                   1074:         
                   1075:         if lastVersion is None:
                   1076:             oldContent=[]
                   1077:         else:
1.39      dwinter  1078:             oldContent=lastVersion.content.getContent()
1.4       dwinter  1079: 
                   1080:         if deleteOld:
                   1081:             oldContent=[]
                   1082: 
                   1083:         newContent=[]
1.6       dwinter  1084:         added=0
1.4       dwinter  1085:         for id in ids:
1.65      dwinter  1086:             try:
                   1087:                 founds=self.CDLICatalog.search({'title':id})
                   1088:             except:
                   1089:                 founds=[]
                   1090:            
1.4       dwinter  1091:             for found in founds:
                   1092:                 if found.getObject() not in oldContent:
                   1093:                     #TODO: was passiert wenn, man eine Object dazufŸgt, das schon da ist aber eine neuere version
                   1094:                     newContent.append((found.getObject().getLastVersion(),found.getObject()))
1.6       dwinter  1095:                     added+=1
1.4       dwinter  1096: 
                   1097:         content=oldContent+newContent
1.19      dwinter  1098:         if not username:
                   1099:             user=self.getActualUserName()
                   1100:         else:
                   1101:             user = username
                   1102:             
1.4       dwinter  1103:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=content)
1.65      dwinter  1104:         logging.info("add to basket (%s) done"%(self.getId()))
1.6       dwinter  1105:         return added
1.4       dwinter  1106:     
1.51      dwinter  1107:     
                   1108:                 
1.72      dwinter  1109:     def getContent(self):
                   1110:         """print content"""
                   1111:         ret=[]
                   1112:         
                   1113:         lv=self.getLastVersion()
                   1114:         for obj in lv.content.getContent():
                   1115:             logging.info("XXXXXXXXXX %s"%repr(obj))
                   1116:             ret.append((obj[1].getId(),obj[0].versionNumber))
                   1117:             
                   1118:         return ret
                   1119:         
1.49      dwinter  1120:     def getContentIds(self):
                   1121:         """print basket content"""
                   1122:         ret=[]
                   1123:         lv=self.getLastVersion()
1.51      dwinter  1124:         for obj in lv.content.getContent():
1.49      dwinter  1125:             ret.append((obj[0].getId(),obj[1].getId()))
                   1126:         
                   1127:         
                   1128:         return lv.getComment(),lv.getUser(),lv.getTime(),ret
                   1129: 
1.37      dwinter  1130:     def changeBasket(self,ids,submit,RESPONSE=None,REQUEST=None):
                   1131:         """change a basket"""
                   1132:         if submit=="update":
                   1133:             return self.updateObjects(ids,RESPONSE=RESPONSE,REQUEST=REQUEST)
                   1134:         elif submit=="delete":
                   1135:             return self.deleteObjects(ids,RESPONSE=RESPONSE,REQUEST=REQUEST)
                   1136:             
1.12      dwinter  1137:     def deleteObjects(self,ids,RESPONSE=None,REQUEST=None):
1.4       dwinter  1138:         """delete objects"""
1.12      dwinter  1139:         
                   1140:         if type(ids) is not ListType:
                   1141:             ids=[ids]
                   1142:        
                   1143:         lastVersion=self.getLastVersion() 
1.39      dwinter  1144:         oldContent=lastVersion.content.getContent()
1.12      dwinter  1145:         newContent=[]
                   1146:         for obj in oldContent:
                   1147:             if obj[1].getId() not in ids:
                   1148:                 newContent.append(obj)
                   1149:         
                   1150:                 
                   1151:         user=self.getActualUserName()
                   1152:         
                   1153:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=newContent)
                   1154:         
                   1155:         if RESPONSE:
                   1156:             obj=self._getOb(ob.getId())
                   1157:             RESPONSE.redirect(obj.absolute_url())
1.4       dwinter  1158:         
                   1159: def manage_addCDLIBasketForm(self):
                   1160:     """add the CDLIBasketContainer form"""
                   1161:     pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','addCDLIBasket.zpt')).__of__(self)
                   1162:     return pt()
                   1163: 
                   1164: def manage_addCDLIBasket(self,title,shortDescription="",comment="",RESPONSE=None):
                   1165:     """add the basket"""
                   1166:     
                   1167:     id=str(self.getNewId())
                   1168:     
                   1169:     ob=CDLIBasket(id,title,shortDescription,comment)
                   1170:     
                   1171:     self._setObject(id, ob)
                   1172:     
                   1173:     if RESPONSE is not None:
                   1174:         RESPONSE.redirect('manage_main')
                   1175:     else:
                   1176:         return ob
                   1177: 
1.39      dwinter  1178: class CDLIBasketVersion(Implicit,Persistent,Folder):
1.4       dwinter  1179:     """version of a basket"""
                   1180:     
                   1181:     meta_type="CDLIBasketVersion"
1.32      dwinter  1182:     security=ClassSecurityInfo()
1.4       dwinter  1183:     
1.39      dwinter  1184:     def updateBasket(self):
                   1185:         """update"""
                   1186:         try:
                   1187:             self._setObject('content',BasketContent(self.basketContent))
                   1188:         except:
                   1189:             try:
                   1190:                 if len(self.basketContent)>0:
                   1191:                     self.content.setContent(self.basketContent)
                   1192:             except:
                   1193:                 print "error",self.getId(),self.aq_parent.getId()
                   1194:         self.basketContent=[]
                   1195: 
                   1196:         
1.37      dwinter  1197:     def containsNonActualFiles(self):
                   1198:         """returns True if basket contains one or more non current files"""
                   1199:         
                   1200:         objs=self.getContent()
                   1201:         for obj in objs:
                   1202:             if not self.isActual(obj)[0]:
                   1203:                 return True
                   1204:         return False
                   1205:     
1.72      dwinter  1206:     def downloadListOfPnumbers(self):
                   1207:         """download pnumbers of the basket as list"""
                   1208:         
                   1209:         basket_name=self.aq_parent.title
                   1210:         
                   1211:         ids=self.getContent() # get the list of objects
                   1212:         logging.error(ids)
                   1213:         ret="\n".join([x[1].getId().split(".")[0] for x in ids])
                   1214:         
                   1215:         self.REQUEST.RESPONSE.setHeader("Content-Disposition","""attachement; filename="%s.txt" """%basket_name)
                   1216:         self.REQUEST.RESPONSE.setHeader("Content-Type","application/octet-stream")
                   1217:         length=len(ret)
                   1218:         self.REQUEST.RESPONSE.setHeader("Content-Length",length)
                   1219:         self.REQUEST.RESPONSE.write(ret)    
                   1220:         
1.32      dwinter  1221:     security.declareProtected('View','downloadObjectsAsOneFile')
1.37      dwinter  1222:     def downloadObjectsAsOneFile(self,lock=None,procedure=None,REQUEST=None,check="yes",current="no"):
1.4       dwinter  1223:         """download all selected files in one file"""
1.46      dwinter  1224:         
                   1225:         if self.temp_folder.downloadCounterBaskets > 10000:
                   1226:             return """I am sorry, currently the server has to many requests for downloads, please come back later!"""
1.45      dwinter  1227: 
                   1228: 
1.37      dwinter  1229:         if (check=="yes") and self.containsNonActualFiles():
                   1230:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','downloadObjectAsOneFile_check.zpt')).__of__(self)
1.46      dwinter  1231:             
1.37      dwinter  1232:             return pt(lock=lock)
                   1233:             
1.46      dwinter  1234:         else:
                   1235:             
                   1236:             return self.downloadObjectsAsOneFileFinally(lock=lock,procedure=procedure,REQUEST=REQUEST,current="no")
                   1237:         
1.45      dwinter  1238:     def downloadObjectsAsOneFileFinally(self,lock=None,procedure=None,REQUEST=None,current="no"):
1.46      dwinter  1239:         """print do the download"""
1.45      dwinter  1240: 
1.46      dwinter  1241:         ret=""
1.4       dwinter  1242:         lockedObjects={}
                   1243: 
1.46      dwinter  1244:         self.temp_folder.downloadCounterBaskets+=1 
                   1245:         self._p_changed=1
1.59      dwinter  1246:         transaction.get().commit()       
1.45      dwinter  1247:     
1.4       dwinter  1248:         if lock:
                   1249:             
                   1250:             if str(self.REQUEST['AUTHENTICATED_USER'])=='Anonymous User':
1.46      dwinter  1251:                 self.temp_folder.downloadCounterBaskets-=1 
                   1252:                 self._p_changed=1
1.58      dwinter  1253:                 transaction.get().commit()      
1.46      dwinter  1254:                 self.temp_folder.downloadCounterBaskets-=1 
                   1255:                 self._p_changed=1
1.58      dwinter  1256:                 transaction.get().commit()      
1.4       dwinter  1257:                 return "please login first"
                   1258: 
                   1259:             #check if a locked object exist in the basket.
                   1260:             lockedObjects={}
1.39      dwinter  1261:             for object in self.content.getContent():
1.4       dwinter  1262: 
1.63      dwinter  1263:                 if (not str(object[1].lockedBy)=="") and (not (str(object[1].lockedBy)==str(self.REQUEST['AUTHENTICATED_USER']))):
1.4       dwinter  1264:                     lockedObjects[object[1].title]=repr(object[1].lockedBy)
                   1265:                    
                   1266:                     
                   1267:             keys=lockedObjects.keys()
                   1268:             
                   1269:             
                   1270:             if len(keys)>0 and (not procedure):
                   1271:                 self.REQUEST.SESSION['lockedObjects']=lockedObjects
                   1272:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','lockedObjects.zpt')).__of__(self)
1.45      dwinter  1273:                 
1.46      dwinter  1274:                 self.temp_folder.downloadCounterBaskets-=1 
                   1275:                 self._p_changed=1
1.58      dwinter  1276:                 transaction.get().commit()      
1.45      dwinter  1277: 
1.46      dwinter  1278:                 return pt()
1.4       dwinter  1279:          
                   1280:             elif not procedure: #keine fails gesperrt dann alle donwloaden
                   1281:                 procedure="downloadAll" 
                   1282:         
1.46      dwinter  1283:         
1.45      dwinter  1284: 
1.4       dwinter  1285: 
1.39      dwinter  1286:         for object in self.content.getContent():
1.45      dwinter  1287:     
1.4       dwinter  1288:                 if (procedure=="downloadAll") or (object[1].lockedBy=='') or (object[1].lockedBy==self.REQUEST['AUTHENTICATED_USER']):
1.37      dwinter  1289:                     if current=="no": #version as they are in the basket
1.49      dwinter  1290:                         ret+=str(object[0].getData())+"\n"
1.37      dwinter  1291:                     elif current=="yes":
                   1292:                         #search current object
1.73      dwinter  1293:                         founds=self.CDLICatalog.search({'title':object[1].getId().split(".")[0]})
1.37      dwinter  1294:                         if len(founds)>0:      
1.49      dwinter  1295:                             ret+=str(founds[0].getObject().getLastVersion().getData())+"\n"
1.37      dwinter  1296:                             
1.4       dwinter  1297:                 if lock and object[1].lockedBy=='':
                   1298:                     object[1].lockedBy=self.REQUEST['AUTHENTICATED_USER']
                   1299:         basket_name=self.aq_parent.title+"_V"+self.getId()
                   1300:         
                   1301:         #write basketname to header of atf file
1.45      dwinter  1302:         ret="#basket: %s\n"%basket_name+ret
                   1303: 
1.46      dwinter  1304:         self.temp_folder.downloadCounterBaskets-=1 
                   1305:         self._p_changed=1
1.58      dwinter  1306:         transaction.get().commit()      
1.4       dwinter  1307:         
                   1308:         self.REQUEST.RESPONSE.setHeader("Content-Disposition","""attachement; filename="%s.atf" """%basket_name)
                   1309:         self.REQUEST.RESPONSE.setHeader("Content-Type","application/octet-stream")
                   1310:         length=len(ret)
                   1311:         self.REQUEST.RESPONSE.setHeader("Content-Length",length)
                   1312:         self.REQUEST.RESPONSE.write(ret)    
1.46      dwinter  1313:         return True
1.4       dwinter  1314:         
                   1315:     def numberOfItems(self):
                   1316:         """return anzahl der elemente im basket"""
1.39      dwinter  1317:         return self.content.numberOfItems()
1.4       dwinter  1318:     
                   1319:     def getTime(self):
                   1320:         """getTime"""
                   1321:         #return self.bobobase_modification_time().ISO()
                   1322:       
                   1323:         if hasattr(self,'time'):
                   1324:             return time.strftime("%Y-%m-%d %H:%M:%S",self.time)
                   1325:         elif hasattr(self,'timefixed'):
                   1326:             return self.timefixed
                   1327:         else:
                   1328:             setattr(self,'timefixed',self.bobobase_modification_time().ISO())
                   1329:             return self.bobobase_modification_time().ISO()
                   1330:     
                   1331:     def getContent(self):
                   1332:         """get Basket Content"""
1.39      dwinter  1333:         return self.content.getContent()
1.4       dwinter  1334: 
                   1335:     
                   1336:     def __init__(self,id,user,comment="",basketContent=[]):
                   1337:         """ init a basket version"""
                   1338:         self.id=id
1.74    ! dwinter  1339:         self.comment=comment
1.39      dwinter  1340:         self._setObject('content',BasketContent(basketContent))
                   1341:         #self.basketContent=basketContent[0:]a
1.4       dwinter  1342:         self.user=user
                   1343:         self.time=time.localtime()
                   1344:         
                   1345:     def getUser(self):
                   1346:         """get user"""
                   1347:         return self.user
                   1348:     
                   1349:     def getComment(self):
                   1350:         """get Comment"""
                   1351:         return self.comment
                   1352:  
1.32      dwinter  1353:     security.declareProtected('View','index_html')
1.4       dwinter  1354:     def index_html(self):
                   1355:             """view the basket"""
1.37      dwinter  1356: 
                   1357:             if self.REQUEST.get('change',False):
1.38      dwinter  1358:                     ob=self.aq_parent.updateObjects(self.REQUEST['change'])
                   1359:                    
                   1360:                     self.REQUEST.RESPONSE.redirect(ob.absolute_url())#go to new basket, because changing generates a new basket
1.37      dwinter  1361:                                         
1.4       dwinter  1362:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','BasketVersionMain.zpt')).__of__(self)
                   1363:             return pt()
                   1364:      
                   1365:     def getObjUrl(self,result):
                   1366:         """getUrl of the version of the object"""
                   1367:         objId=result[1].getTitle()
                   1368:         founds=self.CDLICatalog.search({'title':objId})
                   1369:         if len(founds)>0:
1.12      dwinter  1370:              return founds[0].getObject().getLastVersion().absolute_url()
1.4       dwinter  1371:          
                   1372:         else: #assume version number
                   1373:             splitted=objId.split("_")
1.9       dwinter  1374:             founds=self.CDLICatalog.search({'title':splitted[1]})        
1.12      dwinter  1375:             return founds[0].getObject().getLastVersion().absolute_url()+'/'+objId
1.4       dwinter  1376:    
                   1377: def manage_addCDLIBasketVersion(self,user,comment="",basketContent=[],RESPONSE=None):
                   1378:     """add a version"""
                   1379:     
                   1380:     #check for already existing versions
                   1381:  
                   1382:     lastVersion=self.getLastVersion()
                   1383:     if lastVersion is None:
                   1384:         newId=str(1)
                   1385:     else:
                   1386:         newId=str(int(lastVersion.getId())+1)
                   1387:     
                   1388:     ob=CDLIBasketVersion(newId,user,comment,basketContent)
                   1389:     
                   1390:     self._setObject(newId, ob)
                   1391:     
                   1392:     if RESPONSE is not None:
                   1393:         RESPONSE.redirect('manage_main')
                   1394:     else:
                   1395:         return ob
                   1396:     
1.46      dwinter  1397: class CDLIFileObject(CatalogAware,extVersionedFileObject):
1.1       dwinter  1398:     """CDLI file object"""
                   1399:     
                   1400:     meta_type="CDLI File Object"
1.25      dwinter  1401:     default_catalog='CDLIObjectsCatalog'
1.1       dwinter  1402:     
1.12      dwinter  1403:     security=ClassSecurityInfo()
                   1404:     
1.26      dwinter  1405:  
                   1406:     security.declarePublic('makeThisVersionCurrent')
                   1407:     
1.28      dwinter  1408:     def PrincipiaSearchSource(self):
                   1409:            """Return cataloguable key for ourselves."""
                   1410:            return str(self)
                   1411:        
1.26      dwinter  1412:     def makeThisVersionCurrent_html(self):
                   1413:         """form for making this version current"""
                   1414:         
                   1415:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','makeThisVersionCurrent.zpt')).__of__(self)
                   1416:         return pt()                 
1.27      dwinter  1417:     def makeThisVersionCurrent(self,comment,author,RESPONSE=None):
1.26      dwinter  1418:         """copy this version to current"""
                   1419:         parent=self.aq_parent
                   1420:         
                   1421:         
                   1422:         newversion=parent.manage_addCDLIFileObject('',comment,author)
1.64      dwinter  1423:         newversion.manage_upload(self.getData())
1.27      dwinter  1424:                                         
                   1425:         if RESPONSE is not None:
                   1426:             RESPONSE.redirect(self.aq_parent.absolute_url()+'/history')
                   1427: 
                   1428: 
1.26      dwinter  1429:         return True
                   1430:     
                   1431:     security.declarePublic('view')
1.52      dwinter  1432:  
                   1433:     def getFormattedData(self):
                   1434:         """fromat text"""
                   1435:         data=self.getData()
1.70      dwinter  1436: #        return re.sub("\s\#lem"," #lem",data) #remove return vor #lem
                   1437:         return re.sub("#lem","       #lem",data) #remove return vor #lem
1.52      dwinter  1438:         
1.1       dwinter  1439:     def view(self):
                   1440:         """view file"""
                   1441:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','viewCDLIFile.zpt')).__of__(self)
                   1442:         return pt()
                   1443:     
1.40      dwinter  1444:     security.declarePublic('getPNumber')
                   1445:     def getPNumber(self):
1.46      dwinter  1446:         """get the pnumber"""
                   1447:         try:
1.49      dwinter  1448:                 txt=re.match("&[Pp](\d*)\s*=([^\r\n]*)",self.getData()[0:])
1.40      dwinter  1449:         except:
1.49      dwinter  1450:                 txt=self.getData()[0:]
1.40      dwinter  1451:                 
                   1452:                 return "ERROR"
                   1453:         try:
                   1454:             return "P"+txt.group(1)
                   1455:         except:
                   1456:             return "ERROR"
                   1457: 
1.12      dwinter  1458:     security.declarePublic('getDesignation')
                   1459:     def getDesignation(self):
                   1460:         """get the designation out of the file"""
1.16      dwinter  1461:         try:
1.46      dwinter  1462:                 txt=re.match("&[Pp](\d*)\s*=([^\r\n]*)",self.getData()[0:])
1.13      dwinter  1463:         except:
1.46      dwinter  1464:                 txt=self.getData()[0:]
1.16      dwinter  1465:                 
                   1466:                 return "ERROR"
1.12      dwinter  1467:         try:
                   1468:             return txt.group(2)
                   1469:         except:
                   1470:             return "ERROR"
                   1471:         
1.1       dwinter  1472: manage_addCDLIFileObjectForm=DTMLFile('dtml/fileAdd', globals(),Kind='CDLIFileObject',kind='CDLIFileObject', version='1')
                   1473: 
                   1474: def manage_addCDLIFileObject(self,id,vC='',author='', file='',title='',precondition='', content_type='',
1.48      dwinter  1475:                              from_tmp=False,REQUEST=None):
1.1       dwinter  1476:     """Add a new File object.
                   1477: 
                   1478:     Creates a new File object 'id' with the contents of 'file'"""
1.48      dwinter  1479:  
1.1       dwinter  1480:     id=str(id)
                   1481:     title=str(title)
                   1482:     content_type=str(content_type)
                   1483:     precondition=str(precondition)
                   1484:     
                   1485:     id, title = cookId(id, title, file)
                   1486: 
                   1487:     self=self.this()
                   1488: 
                   1489:     # First, we create the file without data:
                   1490:     self._setObject(id, CDLIFileObject(id,title,'',content_type, precondition))
                   1491:     self._getOb(id).versionComment=str(vC)
                   1492:     self._getOb(id).time=time.localtime()
                   1493:     
                   1494:     setattr(self._getOb(id),'author',author)
                   1495:     
1.45      dwinter  1496:     
1.1       dwinter  1497:     # Now we "upload" the data.  By doing this in two steps, we
                   1498:     # can use a database trick to make the upload more efficient.
1.48      dwinter  1499: 
                   1500:     if file and not from_tmp:
1.1       dwinter  1501:         self._getOb(id).manage_upload(file)
1.48      dwinter  1502:     elif file and from_tmp:
                   1503:         self._getOb(id).manage_upload_from_tmp(file)
1.1       dwinter  1504:     if content_type:
                   1505:         self._getOb(id).content_type=content_type
                   1506: 
1.45      dwinter  1507:     self.reindex_object()
1.49      dwinter  1508:     self._getOb(id).reindex_object()
                   1509: 
1.1       dwinter  1510:     if REQUEST is not None:
                   1511:         REQUEST['RESPONSE'].redirect(self.absolute_url()+'/manage_main')
1.3       dwinter  1512:     
1.46      dwinter  1513: class CDLIFile(extVersionedFile,CatalogAware):
1.3       dwinter  1514:     """CDLI file"""
                   1515:     
                   1516:     meta_type="CDLI file"
                   1517:     default_catalog='CDLICatalog'
1.5       dwinter  1518:     
1.26      dwinter  1519:     #security.declarePublic('history')
1.51      dwinter  1520:     def getLastVersionData(self):
                   1521:         """get last version data"""
                   1522:         return self.getLastVersion().getData()
                   1523: 
1.52      dwinter  1524:     def getLastVersionFormattedData(self):
                   1525:         """get last version data"""
                   1526:         return self.getLastVersion().getFormattedData()
                   1527: 
1.51      dwinter  1528:     #security.declarePublic('history')
                   1529:     
                   1530:     
1.26      dwinter  1531:     def history(self):
                   1532:         """history"""  
                   1533: 
                   1534:         ext=self.ZopeFind(self.aq_parent,obj_ids=["history_template.html"])
                   1535:         if ext:
                   1536:             return getattr(self,ext[0][1].getId())()
                   1537:         
                   1538:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','versionHistory')).__of__(self)
                   1539:         return pt()
                   1540: 
                   1541: 
1.44      dwinter  1542:     def getBasketFromId(self,basketid, context=None):
                   1543:         """get basket from id"""
                   1544: 
                   1545:         if not context:
                   1546:             context=self
                   1547:             
                   1548:         for basket in self.ZopeFind(context,obj_metatypes=["CDLIBasket"]):
                   1549:             if basket[0]==basketid:
                   1550:                 return basket[1]
                   1551:         else:
                   1552:             None
                   1553: 
1.12      dwinter  1554:  
1.8       dwinter  1555:     def isContainedInBaskets(self,context=None):
                   1556:         """check is this file is part of any basket
                   1557:         @param context: (optional) necessessary if CDLIBasketCatalog is not an (inherited) attribute of self, context.CDLIBasketCatalog
                   1558:                         has to exist.
                   1559:         """
                   1560: 
                   1561:         if not context:
                   1562:             context=self
1.12      dwinter  1563:         
                   1564:         ret=[]
                   1565:         for x in context.CDLIBasketCatalog.search({'getFileNamesInLastVersion':self.getId()}):
                   1566:             #if the basket x is deleted it seemes to be that x is sometimes still in the Catalog, why?
                   1567:             try:
                   1568:                 ret.append(x.getObject())
                   1569:             except:
                   1570:                 pass
                   1571:         return ret
                   1572:         #return [x.getObject() for x in context.CDLIBasketCatalog.search({'getFileNamesInLastVersion':self.getId()})]
1.5       dwinter  1573:         
                   1574:         
                   1575:     def addCDLIFileObjectForm(self):
                   1576:         """add a new version"""
                   1577:         
                   1578:         if str(self.REQUEST['AUTHENTICATED_USER']) in ["Anonymous User"]:
                   1579:             return "please login first"
                   1580:         if (self.lockedBy==self.REQUEST['AUTHENTICATED_USER']) or (self.lockedBy==''):
                   1581:             out=DTMLFile('dtml/fileAdd', globals(),Kind='CDLIFileObject',kind='CDLIFileObject',version=self.getVersion()).__of__(self)
                   1582:             return out()
                   1583:         else:
                   1584:             return "Sorry file is locked by somebody else"
                   1585:         
1.37      dwinter  1586:     def manage_addCDLIFileObject(self,id,vC,author,
                   1587:                                  file='',title='',
                   1588:                                  precondition='', 
                   1589:                                  content_type='',
                   1590:                                  changeName='no',newName='', 
1.48      dwinter  1591:                                  come_from=None,
                   1592:                                  from_tmp=False,RESPONSE=None):
1.3       dwinter  1593:         """add"""
1.48      dwinter  1594:       
1.3       dwinter  1595:         try: #TODO: der ganze vC unsinn muss ueberarbeitet werden
                   1596:             vC=self.REQUEST['vC']
                   1597:         except:
                   1598:             pass
                   1599:         
                   1600:         
                   1601:         if changeName=="yes":
                   1602:             filename=file.filename
                   1603:             self.title=filename[max(filename.rfind('/'),
                   1604:                         filename.rfind('\\'),
                   1605:                         filename.rfind(':'),
                   1606:                         )+1:]
                   1607: 
                   1608: 
                   1609:         if not newName=='':
                   1610:             self.title=newName[0:]
                   1611:         
                   1612:         
                   1613: 
1.37      dwinter  1614:    
1.3       dwinter  1615:         positionVersionNum=getattr(self,'positionVersionNum','front')
                   1616:         
                   1617:         if positionVersionNum=='front':
                   1618:             id="V%i"%self.getVersion()+"_"+self.title
                   1619:         else:
                   1620:             tmp=os.path.splitext(self.title)
                   1621:             if len(tmp)>1:
                   1622:                 id=tmp[0]+"_V%i"%self.getVersion()+tmp[1]
                   1623:             else:
                   1624:                 id=tmp[0]+"_V%i"%self.getVersion()
                   1625:             
1.37      dwinter  1626:       
1.48      dwinter  1627:         manage_addCDLIFileObject(self,id,vC,author,file,id,precondition, content_type,from_tmp=from_tmp)
                   1628:         #objs=self.ZopeFind(self,obj_ids=[id])[0][1].setVersionNumber(int(self.getVersion()))
                   1629:         objs=getattr(self,id).setVersionNumber(int(self.getVersion()))
1.22      dwinter  1630:         try:
                   1631:           #FIXME: wozu ist das gut?
                   1632:           self.REQUEST.SESSION['objID_parent']=self.getId()
                   1633:         except:
                   1634:           pass
1.37      dwinter  1635:   
1.3       dwinter  1636:         if RESPONSE:
1.37      dwinter  1637:     
1.3       dwinter  1638:             obj=self.ZopeFind(self,obj_ids=[id])[0][1]
                   1639:             if obj.getSize()==0:
                   1640:                 self.REQUEST.SESSION['objID']=obj.getId()
                   1641:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','errorUploadFile')).__of__(self)
                   1642:                 return pt()
                   1643: 
                   1644:             else:
1.37      dwinter  1645:                 if come_from and (come_from!=""):
                   1646:                                         RESPONSE.redirect(come_from+"?change="+self.getId())
                   1647:                 else:
                   1648:                     RESPONSE.redirect(self.REQUEST['URL2']+'?uploaded=%s'%self.title)
1.3       dwinter  1649: 
                   1650:         else:
                   1651:             return self.ZopeFind(self,obj_ids=[id])[0][1]
                   1652:         
                   1653:         
                   1654: def manage_addCDLIFileForm(self):
                   1655:     """interface for adding the OSAS_root"""
                   1656:     pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','addCDLIFile.zpt')).__of__(self)
                   1657:     return pt()
                   1658: 
                   1659: def manage_addCDLIFile(self,id,title,lockedBy, author=None, RESPONSE=None):
                   1660:     """add the OSAS_root"""
                   1661:     newObj=CDLIFile(id,title,lockedBy,author)
1.22      dwinter  1662:                                         
                   1663:     tryToggle=True
                   1664:     tryCount=0
                   1665:     
                   1666:   
                   1667: 
                   1668:     self._setObject(id,newObj)                  
1.45      dwinter  1669:     getattr(self,id).reindex_object()
1.22      dwinter  1670:         
1.3       dwinter  1671:     if RESPONSE is not None:
                   1672:         RESPONSE.redirect('manage_main')
                   1673: 
1.69      dwinter  1674: def checkUTF8(data):
                   1675:     """check utf 8"""
                   1676:     try:
                   1677:         data.encode('utf-8')
                   1678:         return True
                   1679:     except:
                   1680:         return False
                   1681:     
1.1       dwinter  1682: 
1.45      dwinter  1683: def checkFile(filename,data,folder):
                   1684:     """check the files"""
                   1685:     # first check the file name
                   1686:     fn=filename.split(".") # no extension
1.48      dwinter  1687: 
1.45      dwinter  1688:     if not fn[0][0]=="P":
1.46      dwinter  1689:         return False,"P missing in the filename"
1.45      dwinter  1690:     elif len(fn[0])!=7:
1.46      dwinter  1691:         return False,"P number has not the right length 6"
1.69      dwinter  1692:     elif not checkUTF8(data):
                   1693:         return False,"not utf-8"
1.45      dwinter  1694:     else:
1.69      dwinter  1695:         return True,""
                   1696:     
1.45      dwinter  1697:     
1.25      dwinter  1698: def splitatf(fh,dir=None,ext=None):
1.2       dwinter  1699:     """split it"""
1.4       dwinter  1700:     ret=None
1.2       dwinter  1701:     nf=None
1.25      dwinter  1702:     i=0
1.49      dwinter  1703: 
1.73      dwinter  1704:     if (type(fh) is StringType) or (type(fh) is UnicodeType):
                   1705:         iter=fh.split("\n")
                   1706:     else:
                   1707:         iter=fh.readlines()
                   1708:         
                   1709:     for lineTmp in iter:
1.66      dwinter  1710:         lineTmp=lineTmp.replace(codecs.BOM_UTF8,'') # make sure that all BOM are removed..
                   1711:         for line in lineTmp.split("\r"):
                   1712:             #logging.log("Deal with: %s"%line)
                   1713:             if ext:
                   1714:                 i+=1
                   1715:                 if (i%100)==0:
                   1716:                     ext.result+="."
                   1717:                 if i==10000:
                   1718:                     i=0
                   1719:                     ext.result+="<br>"
                   1720:             #check if basket name is in the first line
                   1721:             if line.find("#atf basket")>=0: #old convention
                   1722:                 ret=line.replace('#atf basket ','')
                   1723:                 ret=ret.split('_')[0]
                   1724:             elif line.find("#basket:")>=0: #new convention
                   1725:                 ret=line.replace('#basket: ','')
                   1726:                 ret=ret.split('_')[0]
                   1727: 
                   1728:             else:
                   1729:                 if (len(line.lstrip())>0) and (line.lstrip()[0]=="&"): #newfile
                   1730:                     if nf:
                   1731:                         nf.close() #close last file
                   1732: 
1.49      dwinter  1733: 
1.66      dwinter  1734:                     filename=line[1:].split("=")[0].rstrip()+".atf"
                   1735:                     if dir:
                   1736:                         filename=os.path.join(dir,filename)
                   1737:                     nf=file(filename,"w")
                   1738:                     logging.info("open %s"%filename)
                   1739:                 if nf:    
                   1740:                     nf.write(line.replace("\n","")+"\n")
                   1741: 
                   1742:     try:        
                   1743:         nf.close()
1.61      dwinter  1744:     except:
1.66      dwinter  1745:         pass
1.73      dwinter  1746:     
                   1747:     if not((type(fh) is StringType) or (type(fh) is UnicodeType)):
                   1748:         fh.close()
1.5       dwinter  1749:     return ret,len(os.listdir(dir))
1.4       dwinter  1750: 
1.19      dwinter  1751: 
1.46      dwinter  1752: class CDLIFileFolder(extVersionedFileFolder):
1.4       dwinter  1753:     """CDLI File Folder"""
1.1       dwinter  1754:     
1.19      dwinter  1755:     security=ClassSecurityInfo()
1.1       dwinter  1756:     meta_type="CDLI Folder"
                   1757:     filesMetaType=['CDLI file']
                   1758:     folderMetaType=['CDLI Folder']
                   1759:     default_catalog='CDLICatalog'
1.25      dwinter  1760:     defaultFileCatalog=default_catalog #wenn dieses definiert ist, wird beim hinzufŸgen einer neuen version eines files dieser catalog neuiniziert
1.45      dwinter  1761:     #downloadCounter=0 # counts how many download for all files currently run, be mehr als 5 wird verweigert.
1.24      dwinter  1762:     tmpStore2={}
1.19      dwinter  1763:     def setTemp(self,name,value):
                   1764:         """set tmp"""
                   1765: 
                   1766:         setattr(self,name,value)
                   1767:                                         
                   1768:                                        
1.12      dwinter  1769:     def delete(self,ids):
                   1770:         """delete this file, i.e. move into a trash folder"""
                   1771:              
                   1772:         found=self.ZopeFind(self,obj_ids=['.trash'])
                   1773:         
                   1774:         if len(found)<1:
                   1775:             manage_addCDLIFileFolder(self, '.trash',title="Trash")
                   1776:             trash=self._getOb('.trash')
                   1777:         else:
                   1778:             trash=found[0][1]
                   1779:         
                   1780:         if type(ids) is not ListType:
                   1781:             ids=[ids]
                   1782:         cut=self.manage_cutObjects(ids)
                   1783:         trash.manage_pasteObjects(cut)
                   1784:         
1.4       dwinter  1785:     def getVersionNumbersFromIds(self,ids):
                   1786:         """get the numbers of the current versions of documents described by their ids"""
                   1787:         
                   1788:         ret=[]
                   1789:         searchStr=" OR ".join(ids)
                   1790:         
1.9       dwinter  1791:         founds=self.CDLICatalog.search({'title':searchStr})
1.4       dwinter  1792:         
                   1793:         for found in founds:
                   1794:             lastVersion=found.getObject().getLastVersion()
                   1795:             ret.append((found.getId,lastVersion))
                   1796:         
                   1797:         return ret
                   1798:     
1.67      dwinter  1799:     def getFile(self,fn):
                   1800:         """get the content of the file fn"""
                   1801:         founds=self.CDLICatalog.search({'title':fn})
                   1802:         if not founds:
1.73      dwinter  1803:             return "" 
1.67      dwinter  1804:         else:
                   1805:             obj=founds[0].getObject().getLastVersion()
1.68      dwinter  1806: 
1.67      dwinter  1807:             return obj.getData()[0:] 
                   1808:     
1.14      dwinter  1809:     def checkCatalog(self,fn):
                   1810:         """check if fn is in the catalog"""
1.19      dwinter  1811:         #TODO add checkCatalog
1.14      dwinter  1812:          
                   1813:         
1.19      dwinter  1814:                                    
1.45      dwinter  1815:     def findObjectsFromListWithVersion(self,list,author=None):
1.26      dwinter  1816:         """find objects from a list with versions
                   1817:         @param list: list of tuples  (cdliFile,version)
                   1818:         """
                   1819:         
                   1820:        
                   1821:        
                   1822:         #self.REQUEST.SESSION['fileIds']=list#store fieldIds in session for further usage
                   1823:         #self.REQUEST.SESSION['searchList']=self.REQUEST.SESSION['fileIds']
                   1824:         
                   1825:         
                   1826:         pt=getattr(self,'filelistVersioned.html')
                   1827:             
1.45      dwinter  1828:         return pt(search=list,author=author)
1.26      dwinter  1829:     
                   1830:     
1.67      dwinter  1831:     def getAllPNumbers(self):
                   1832:         """get a list of all files (resp their p-numbers) stored"""
                   1833:         
                   1834:         ret=[x.getId for x in  self.CDLICatalog()]
                   1835:      
                   1836:         return ret
                   1837:     
1.35      dwinter  1838:     def findObjectsFromList(self,enterList=None,display=False,start=None,upload=None,list=None,basketName=None,numberOfObjects=None,RESPONSE=None):
1.1       dwinter  1839:         """findObjectsFromList (, TAB oder LINE separated)"""
1.15      dwinter  1840:                                        
                   1841:         
1.6       dwinter  1842:         if upload: # list from file upload
                   1843:             txt=upload.read()
1.35      dwinter  1844:                                        
                   1845:         if enterList:
                   1846:             txt=enterList
                   1847:             
                   1848:         if upload or enterList:
1.6       dwinter  1849:             txt=txt.replace(",","\n")
                   1850:             txt=txt.replace("\t","\n")
1.12      dwinter  1851:             txt=txt.replace("\r","\n")
1.6       dwinter  1852:             idsTmp=txt.split("\n")
                   1853:             ids=[]
                   1854:             for id in idsTmp: # make sure that no empty lines
                   1855:                 idTmp=id.lstrip().rstrip()
                   1856:                 if len(idTmp)>0:
                   1857:                     
                   1858:                     ids.append(idTmp)
                   1859:                     
                   1860:             #self.REQUEST.SESSION['ids']=" OR ".join(ids)
1.12      dwinter  1861: 
1.6       dwinter  1862:             pt=getattr(self,'filelist.html')
1.7       dwinter  1863:             self.REQUEST.SESSION['searchList']=ids
1.6       dwinter  1864:             return pt(search=ids)
1.7       dwinter  1865:         
1.6       dwinter  1866:         if basketName:
1.7       dwinter  1867:             #TODO: get rid of one of these..
                   1868:             
1.6       dwinter  1869:             pt=getattr(self,'filelist.html')
1.7       dwinter  1870:             return pt(basketName=basketName,numberOfObjects=numberOfObjects)
1.6       dwinter  1871:         
1.15      dwinter  1872:         if list is not None: # got already a list
1.6       dwinter  1873:             ret=[]
                   1874:             for fileId in list:
1.35      dwinter  1875:                 if fileId.find("*"): #check for wildcards
                   1876:                         fileId=fileId
                   1877:                 elif len(fileId.split("."))==1:
1.6       dwinter  1878:                         fileId=fileId+".atf"
1.35      dwinter  1879:                 
1.6       dwinter  1880:                 ret+=self.CDLICatalog({'title':fileId})
1.7       dwinter  1881:             #TODO: get rid of one of these..
1.25      dwinter  1882:             ids=[x.getObject().getId() for x in ret]
                   1883:             self.REQUEST.SESSION['fileIds']=ids#store fieldIds in session for further usage
1.7       dwinter  1884:             self.REQUEST.SESSION['searchList']=self.REQUEST.SESSION['fileIds']
1.25      dwinter  1885:             
                   1886:             if display:
                   1887:                 pt=getattr(self,'filelist.html')
                   1888:                 
                   1889:                 return pt(search=ids)
                   1890:             else:      
                   1891:                 return ret
                   1892:         
                   1893:         
1.1       dwinter  1894:         
1.7       dwinter  1895:         if start:
                   1896:             RESPONSE.redirect("filelist.html?start:int="+str(start))
1.15      dwinter  1897:                                        
1.18      dwinter  1898: 
1.19      dwinter  1899:     security.declareProtected('Manage','createAllFilesAsSingleFile')
1.1       dwinter  1900:     def createAllFilesAsSingleFile(self,RESPONSE=None):
                   1901:         """download all files"""
                   1902:         
                   1903:         def sortF(x,y):
                   1904:             return cmp(x[0],y[0])
                   1905:         
                   1906:         catalog=getattr(self,self.default_catalog)
                   1907:         #tf,tfilename=mkstemp()
1.66      dwinter  1908:         if not hasattr(self.temp_folder,'downloadCounter'):
                   1909:             self.temp_folder.downloadCounter=0
1.49      dwinter  1910: 
                   1911:         if getattr(self.temp_folder,'downloadCounter',0) > 5:
1.46      dwinter  1912:             return """I am sorry, currently the server has to many requests for downloads, please come back later!"""
1.45      dwinter  1913: 
1.46      dwinter  1914:         self.temp_folder.downloadCounter+=1
                   1915:         self._p_changed=1
1.58      dwinter  1916:         transaction.get().commit()
1.45      dwinter  1917:        
1.1       dwinter  1918:         list=[(x.getId,x) for x in catalog()]
                   1919:         list.sort(sortF)
1.46      dwinter  1920:         
1.45      dwinter  1921: 
1.1       dwinter  1922:         
                   1923:         RESPONSE.setHeader("Content-Disposition","""attachement; filename=%s"""%"all.atf")
                   1924:         RESPONSE.setHeader("Content-Type","application/octet-stream")
1.46      dwinter  1925:         tmp=""
1.1       dwinter  1926:         for l in list:
                   1927:             obj=l[1].getObject()
                   1928:             
                   1929:             if obj.meta_type=="CDLI file":
                   1930:                 
                   1931:                 #os.write(tf,obj.getLastVersion().data)
                   1932:                 if RESPONSE:
1.49      dwinter  1933:                     RESPONSE.write(obj.getLastVersion().getData()[0:])
1.71      dwinter  1934:                     RESPONSE.write("\n")
1.46      dwinter  1935:                 self.temp_folder.downloadCounter-=1 
                   1936:                 self._p_changed=1
1.58      dwinter  1937:         transaction.get().commit()
1.1       dwinter  1938:         #os.close(tf)
                   1939:         #RESPONSE.redirect(self.absolute_url()+"/downloadFile?fn="%tfilename)
                   1940:         return True
                   1941:     
                   1942:     def downloadFile(self,fn):
                   1943:         """download fn - not used yet"""
                   1944:         self.REQUEST.RESPONSE.setHeader("Content-Disposition","""attachement; filename=%s"""%self.getLastVersion().getId())
                   1945:         self.REQUEST.RESPONSE.setHeader("Content-Type","application/octet-stream")
                   1946:         self.REQUEST.RESPONSE.write(file(fn).read())
                   1947:         
                   1948:       
                   1949:                 
                   1950:     def hasParent(self):
                   1951:         """returns true falls subfolder"""
                   1952:       
                   1953:         if self.aq_parent.meta_type in self.folderMetaType:
                   1954:             return True
                   1955:         else:
                   1956:             return False
                   1957:         
                   1958:     def getFolders(self):
                   1959:         """get all subfolders"""
                   1960:         ret=[]
                   1961:         folders=self.ZopeFind(self,obj_metatypes=self.folderMetaType)
                   1962:         for folder in folders:
                   1963:             ret.append((folder[1],
                   1964:                         len(self.ZopeFind(folder[1],obj_metatypes=self.folderMetaType)),
                   1965:                         len(self.ZopeFind(folder[1],obj_metatypes=self.filesMetaType))
                   1966:                         ))
                   1967:         return ret
                   1968:     
                   1969:             
1.32      dwinter  1970:     security.declareProtected('View','index_html')
1.1       dwinter  1971:     def index_html(self):
                   1972:         """main"""
                   1973:         ext=self.ZopeFind(self,obj_ids=["index.html"])
                   1974:         if ext:
                   1975:             return ext[0][1]()
                   1976:         
                   1977:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','CDLIFileFolderMain')).__of__(self)
                   1978:         return pt()
                   1979:     
1.22      dwinter  1980:     
                   1981: manage_addCDLIFileFolderForm=DTMLFile('dtml/folderAdd', globals())
                   1982: 
                   1983:     
                   1984: def manage_addCDLIFileFolder(self, id, title='',
                   1985:                      createPublic=0,
                   1986:                      createUserF=0,
                   1987:                      REQUEST=None):
                   1988:     """Add a new Folder object with id *id*.
                   1989: 
                   1990:     If the 'createPublic' and 'createUserF' parameters are set to any true
                   1991:     value, an 'index_html' and a 'UserFolder' objects are created respectively
                   1992:     in the new folder.
                   1993:     """
                   1994:     ob=CDLIFileFolder()
                   1995:     ob.id=str(id)
                   1996:     ob.title=title
                   1997:     self._setObject(id, ob)
                   1998:     ob=self._getOb(id)
                   1999: 
                   2000:     checkPermission=getSecurityManager().checkPermission
                   2001: 
                   2002:     if createUserF:
                   2003:         if not checkPermission('Add User Folders', ob):
                   2004:             raise Unauthorized, (
                   2005:                   'You are not authorized to add User Folders.'
                   2006:                   )
                   2007:         ob.manage_addUserFolder()
                   2008: 
                   2009:   
                   2010:     if REQUEST is not None:
                   2011:         return self.manage_main(self, REQUEST, update_menu=1)
                   2012:     
                   2013: class CDLIRoot(Folder):
                   2014:     """main folder for cdli"""
                   2015:     
                   2016:     meta_type="CDLIRoot"
1.45      dwinter  2017:     downloadCounterBaskets=0# counts the current basket downloads if counter > 10 no downloads are possible
1.51      dwinter  2018:     
1.73      dwinter  2019:     def deleteFiles(self,ids):
                   2020:         """delete files (resp. move into .trash folder)"""
                   2021:         # find or generete trash folder
                   2022:         
                   2023:         found=self.ZopeFind(self,obj_ids=['.trash'])
                   2024:         
                   2025:         if len(found)<1:
                   2026:             manage_addCDLIFileFolder(self, '.trash',title="Trash")
                   2027:             trash=self._getOb('.trash')
                   2028:         else:
                   2029:             logging.info(found)
                   2030:             trash=found[0][1]
                   2031:         
                   2032:         
                   2033:         for id in ids:
                   2034:             founds=self.CDLICatalog.search({'title':id.split(".")[0]})
                   2035:             if founds:
                   2036:                 logging.info(founds)
                   2037:                 folder=founds[0].getObject().aq_parent #get the parent folder of the object
                   2038:                 logging.info(folder)
                   2039:                 cut=folder.manage_cutObjects([founds[0].getId]) #cut it out
                   2040:                 trash.manage_pasteObjects(cut)  #paste it in the trash
                   2041: 
                   2042: 
1.71      dwinter  2043:     def findWordRegExp(self,indexName,searchTerm):
                   2044:         """find all words in index which match regexp in SearchTerm
                   2045:         @param indexName: name of the index to be searched in
                   2046:         @param searchTerm: word to be searched"""
                   2047:         
1.57      dwinter  2048:         ret=[]
1.71      dwinter  2049:         for x in self.lineIndexes[indexName].iterkeys():
1.57      dwinter  2050:             if re.match(searchTerm,x):
                   2051:                 ret.append(x)
                   2052:         return ret
                   2053:     
1.71      dwinter  2054:     def searchRegExpInLineIndexDocs(self,indexName,searchTerm):
                   2055:         """search in inLineIndex with regexp
                   2056:         @param indexName: name of the index to be searched in
                   2057:         @param searchTerm: term to be searched
                   2058:         """
1.57      dwinter  2059:         if not searchTerm:
                   2060:             return []
                   2061:         ret=[]
1.71      dwinter  2062:         words=self.findWordRegExp(indexName,searchTerm) # suche nach allen Treffern
1.57      dwinter  2063:         logging.info("wd:%s"%words)
                   2064:         for word in words:
1.71      dwinter  2065:             ret+=self.searchInLineIndexDocs(indexName,word)
1.57      dwinter  2066:         
                   2067:         return unique(ret)
                   2068:         
1.53      dwinter  2069:     def showInLineIndex(self):
                   2070:         """get the index for debug purposes"""
                   2071:         print "show"
1.71      dwinter  2072:         for key in self.lineIndexes.keys():
                   2073:             logging.info("index:%s"%key)
                   2074:             for x in self.lineIndexes[key].iterkeys():
                   2075:                 logging.info("word:%s"%repr(x))
                   2076:                 #for y in self.lineIndex[x].iterkeys():
                   2077:                 #    print "doc",repr(y),repr(self.lineIndex[x][y])
                   2078:                     
                   2079:         return self.lineIndexes
1.53      dwinter  2080:         
1.71      dwinter  2081:     def searchInLineIndexDocs(self,indexName,word,uniq=True,regExp=False):
                   2082:         """search occurences in an index
                   2083:         @param indexName: name of the index to be searched in
                   2084:         @param word: word to be searched
                   2085:         @param unique: (optional) unify the list of results
                   2086:         @param regExp: (optional) use regular expressions
                   2087:         """
1.57      dwinter  2088: 
                   2089:         if regExp:
1.71      dwinter  2090:             return self.searchRegExpInLineIndexDocs(indexName,word)
1.55      dwinter  2091:         
1.56      dwinter  2092:         try:    
1.71      dwinter  2093:                 
                   2094:                 lst=list(self.lineIndexes[indexName].get(word).keys())
1.57      dwinter  2095:         except:
1.71      dwinter  2096:             logging.error("error: searchInLineIndexDocs (%s %s)"%(sys.exc_info()[0:2]))
1.57      dwinter  2097:             lst=[]
1.55      dwinter  2098:         if uniq:
                   2099:             return unique(lst)
                   2100:         else:
                   2101:             return lst
                   2102:         
1.71      dwinter  2103:     def getLinesFromIndex(self,indexName,word,doc,regExp=False):
                   2104:         """return all lines from a document where word is found
                   2105:         @param indexName: Name of the index
                   2106:         @param word: word to be searched
                   2107:         @param doc: name of the document (usuallay the p-number)
                   2108:         @param regExp: (optional) use regExp       
                   2109:         """
                   2110:         
1.57      dwinter  2111:         if not regExp:
1.71      dwinter  2112:             return self.lineIndexes[indexName].get(word)[doc]
1.57      dwinter  2113:         else: # wenn regexp, suche welches word
1.71      dwinter  2114:             for w in self.findWordRegExp(indexName,word):
                   2115:                 if self.lineIndexes[indexName].get(w): # ein word in im dex gefunden
1.57      dwinter  2116:                     try:    
1.71      dwinter  2117:                         dc=self.lineIndex[indexName].get(word)[doc]
1.57      dwinter  2118:                         return dc # und ein document dann gib es zurueck
                   2119:                     except:
                   2120:                          pass #andernfalls weiter
                   2121:                      
1.71      dwinter  2122:     def cleanInLineIndex(self,indexName):
                   2123:         """empty an InlineIndex
                   2124:         @param indexName: name of the index
                   2125:         """
                   2126:         for x in list(self.lineIndexes[indexName].keys()):
                   2127:             del(self.lineIndexes[indexName][x])
                   2128:         print [x for x in self.lineIndexes[indexName].keys()]
1.53      dwinter  2129:      
                   2130:         return "ok"
                   2131:     
1.71      dwinter  2132:     def storeInLineIndex(self,indexName,key,value):
                   2133:         """store in index, key is normally a word or grapheme 
                   2134:         and value is a tuple (documentname, line) where the word can be found
                   2135:         @param indexName: name of the index
                   2136:         @param key: key in index
                   2137:         @param value: value in index, value is a tuple (document name, line)
                   2138:         """
                   2139:         logging.error("indexing: %s %s"%(indexName,key))
                   2140:         if (not hasattr(self,'lineIndexes')):
                   2141:       
                   2142:             self.lineIndexes={}
                   2143:             
                   2144:         if self.lineIndexes.get(indexName,None) is None:
                   2145:             #index exisitiert noch nicht dann anlegen
                   2146:             
                   2147:             self.lineIndexes[indexName]=OOBTree()
                   2148:         lis=self.lineIndexes
                   2149:         li=lis[indexName]
1.53      dwinter  2150:         
                   2151:         if li.has_key(key):
1.54      dwinter  2152: 
                   2153: #            if li[key].has_key(value[0]) and (not (value[1] in li[key][value[0]])):
                   2154:             if li[key].has_key(value[0]):
                   2155:                 tmp=li[key][value[0]]
                   2156:                 tmp.append(value[1]) # add it if now in the array
                   2157:                 li[key][value[0]]=tmp[0:]
1.53      dwinter  2158:             else:
                   2159:                 li[key][value[0]]=[value[1]] # new array for lines
                   2160:                 
                   2161:         else:
                   2162:             
                   2163:             li[key]=OOBTree()# new btree for lines
                   2164:             li[key][value[0]]=[value[1]] 
                   2165:                     
                   2166:         
1.71      dwinter  2167:         self.lineIndexes=lis
1.53      dwinter  2168:      
1.58      dwinter  2169:         transaction.get().commit()
1.53      dwinter  2170:         
1.51      dwinter  2171: 
1.74    ! dwinter  2172:     def showFile(self,fileId,wholePage=False):
1.71      dwinter  2173:         """show a file
                   2174:         @param fileId: P-Number of the document to be displayed
                   2175:         """
1.51      dwinter  2176:         f=self.CDLICatalog({'title':fileId})
                   2177:         if not f:
                   2178:             return ""
                   2179:         
1.74    ! dwinter  2180:         if wholePage:
        !          2181:             logging.info("whole")
        !          2182:             return f[0].getObject().getLastVersion().view()
        !          2183:         else:
        !          2184:             return f[0].getObject().getLastVersionFormattedData()
1.55      dwinter  2185:     
1.56      dwinter  2186: 
1.71      dwinter  2187:     def showWordInFile(self,fileId,word,lineList=None,regExp=True,indexName=""):
1.56      dwinter  2188:         """get lines with word  fromFileId"""
                   2189:         
                   2190:         file=self.showFile(fileId)
                   2191: 
1.66      dwinter  2192:         ret=[]
1.71      dwinter  2193:         if regExp: # wenn regexp dann generiere alle worte aus der list die der regexp entsprechen
                   2194:             wordlist=self.findWordRegExp(indexName,word)
                   2195:         else:
                   2196:             wordlist=[word]
                   2197:         
1.66      dwinter  2198:         for line in file.split("\n"):
1.71      dwinter  2199:             found=False
                   2200:             for word in wordlist:
1.66      dwinter  2201:                 if line.find(word)>-1:
                   2202:                         if lineList: #liste of moeglichen Zeilennummern
                   2203:                                 num=line.split(".")[0] #Zeilenummer ist alles vor dem . in der Zeile
                   2204: 
                   2205:                                 if num in lineList: 
                   2206: 
                   2207:                                         ret.append(line)
                   2208:                         else: # nimm alles ohne line check
                   2209:                                 ret.append(line)
1.71      dwinter  2210:                         
                   2211:                         break;
1.66      dwinter  2212:         return ret
1.56      dwinter  2213: 
1.71      dwinter  2214:     def tagWordInFile(self,fileId,word,lineList=None,regExp=True,indexName=""):
1.56      dwinter  2215:         """get lines with word  fromFileId"""
1.51      dwinter  2216:         
1.56      dwinter  2217:         file=self.showFile(fileId)
1.66      dwinter  2218:         tagStr="""<span class="found">%s</span>"""
                   2219:         ret=[]
1.71      dwinter  2220:         
                   2221:         if regExp: # wenn regexp dann generiere alle worte aus der list die der regexp entsprechen
                   2222:             wordlist=self.findWordRegExp(indexName,word)
                   2223:         else:
                   2224:             wordlist=[word]
                   2225:             
1.66      dwinter  2226:         for line in file.split("\n"):
1.71      dwinter  2227:             found=False
                   2228:             for word in wordlist:
                   2229:                 if line.find(word)>-1: #word ist gefunden dann makiere und breche die Schleife ab
1.66      dwinter  2230:                         if lineList: #liste of moeglichen Zeilennummern
                   2231:                                 num=line.split(".")[0] #Zeilenummer ist alles vor dem . in der Zeile
                   2232: 
                   2233:                                 if num in lineList: 
                   2234: 
                   2235:                                         ret.append(line.replace(word,tagStr%word))
1.71      dwinter  2236:                         
1.66      dwinter  2237:                         else: # nimm alles ohne line check
                   2238:                                 ret.append(line.replace(word,tagStr%word))
1.71      dwinter  2239:                         found=True
                   2240:                         break
                   2241:             if not found: #word wurde nicht gefunden keine makierung
1.66      dwinter  2242:                         ret.append(line)
1.71      dwinter  2243:                         
1.66      dwinter  2244:         return "<br>\n".join(ret)
1.56      dwinter  2245: 
1.37      dwinter  2246:     def URLquote(self,str):
                   2247:         """quote url"""
                   2248:         return urllib.quote(str)
                   2249:     
                   2250:     def URLunquote(self,str):
                   2251:         """unquote url"""
                   2252:         return urllib.unquote(str)
                   2253:     
1.58      dwinter  2254:     def URLquote_plus(self,str):
                   2255:         """quote url"""
                   2256:         return urllib.quote_plus(str)
                   2257:     
                   2258:     def URLunquote_plus(self,str):
                   2259:         """unquote url"""
                   2260:         return urllib.unquote_plus(str)
                   2261:     
1.37      dwinter  2262:     
1.26      dwinter  2263:     def forceunlock(self):
                   2264:         "break all locks"
                   2265:         ret=[]
                   2266:         for f in self.ZopeFind(self,obj_metatypes="CDLI file",search_sub=1):
                   2267:            un=f[1].forceunlock()
1.39      dwinter  2268: 
1.26      dwinter  2269:            if un and un !="":
                   2270:                ret.append((f[0],un))
1.46      dwinter  2271: 
1.61      dwinter  2272:         return ret
1.71      dwinter  2273:                                         
1.61      dwinter  2274: 
1.26      dwinter  2275:     def getChangesByAuthor(self,author,n=100):
1.25      dwinter  2276:         """getChangesByAuthor"""
1.26      dwinter  2277:         zcat=self.CDLIObjectsCatalog
                   2278:         res=zcat({'lastEditor':author,
1.25      dwinter  2279:                      'sort_on':'getTime',
                   2280:                      'sort_order':'descending',
                   2281:                      'sort_limit':n})[:n ]
1.26      dwinter  2282:                        
                   2283:         return res
                   2284:     
                   2285:     def getChangesByAuthor_html(self,author,n=100):
                   2286:         """html output for changes by author"""
                   2287:         tmp={}
                   2288:         list=[]                         
                   2289:         for x in self.getChangesByAuthor(author):
                   2290:            nr=x.getObject().getVersionNumber()
                   2291:            id=x.getObject().aq_parent.getId()
                   2292:            #hinzufuegen, wenn Version neuer als die 
                   2293:            if tmp.get(id,(0,0))[1] < nr:
                   2294:                 tmp[id]=(x.getObject().aq_parent,nr)
                   2295: 
                   2296:      
1.45      dwinter  2297:         return self.cdli_main.findObjectsFromListWithVersion(list=tmp.values(),author=author)           
1.26      dwinter  2298:         
1.25      dwinter  2299:     def getLastChanges(self,n=100):
                   2300:         """get the last n changes""" 
                   2301:         n=int(n)                   
                   2302:         zcat=self.CDLICatalog
                   2303:         return zcat({'sort_on':'getLastChangeDate',
                   2304:                      'sort_order':'descending',
                   2305:                      'sort_limit':n})[:n ]
                   2306:      
                   2307:     
                   2308:     def getLastChanges_html(self,n=100):
                   2309:         """get the last n changes"""
                   2310:         list = [x.getId for x in self.getLastChanges(n)]
                   2311:         return self.cdli_main.findObjectsFromList(list=list,display=True)
                   2312:                                        
1.24      dwinter  2313:     def refreshTxt(self,txt="",threadName=None):
1.22      dwinter  2314:         """txt fuer refresh"""
                   2315:   
1.24      dwinter  2316:         return """ 2;url=%s?repeat=%s """%(self.absolute_url()+txt,threadName)
1.22      dwinter  2317: 
                   2318:     
1.24      dwinter  2319:     def getResult(self,threadName=None):
1.22      dwinter  2320:        """result of thread"""
                   2321:        try:
1.24      dwinter  2322:         return self._v_uploadATF[threadName].getResult()
1.22      dwinter  2323:        except:
                   2324:         return "One moment, please"
                   2325:     
1.24      dwinter  2326:         
                   2327:     def checkThreads(self):
                   2328:         """check threads"""
1.42      dwinter  2329:         ret="<html><body>"
                   2330:         for thread in threading.enumerate():
1.45      dwinter  2331:            ret+="<p>%s (%s): %s</p>"%(repr(thread),thread.getName(),thread.isAlive())
1.42      dwinter  2332:        
                   2333:         return ret
                   2334:                                        
                   2335:                                            
1.73      dwinter  2336:     def uploadATFRPC(self,data,username):
                   2337:         """upload an atffile via xml-rpc"""
                   2338:         uploader=uploadATFThread()
                   2339:         
                   2340:         #generate an random id for the upload object
                   2341:         from random import randint
                   2342:         if (not self.REQUEST.SESSION.get('idTmp',None)):
                   2343: 
                   2344:             idTmp=str(randint(0,1000000000))
                   2345:             self.REQUEST.SESSION['idTmp']=idTmp
                   2346:         else:
                   2347:             idTmp=self.REQUEST.SESSION.get('idTmp',None)
                   2348:             
                   2349:         
                   2350:         uploader.set(data,0,username,idTmp)
                   2351:         
                   2352:         stObj=uploader.run()
                   2353:         
                   2354:         processor=uploadATFfinallyThread()
                   2355:         
                   2356:         basketname=stObj.returnValue['basketNameFromFile']
                   2357:         
                   2358:         processor.set("uploadchanged",basketname=basketname,SESSION=stObj.returnValue,username=username,serverport=self.REQUEST['SERVER_PORT'])
                   2359:         
                   2360:         processor.run()
                   2361:         
                   2362:         
                   2363:         return generateXMLReturn(stObj.returnValue)
                   2364:         
1.22      dwinter  2365:     def uploadATF(self,repeat=None,upload=None,basketId=0,RESPONSE=None):
1.69      dwinter  2366:         """upload an atf file / basket file"""
1.22      dwinter  2367:         #self._v_uploadATF.returnValue=None
1.71      dwinter  2368:         
                   2369:         #generate an random id for the upload thread
1.60      dwinter  2370:         from random import randint
1.61      dwinter  2371:         if (not self.REQUEST.SESSION.get('idTmp',None)):
1.22      dwinter  2372: 
1.60      dwinter  2373:             idTmp=str(randint(0,1000000000))
                   2374:             self.REQUEST.SESSION['idTmp']=idTmp
                   2375:         else:
                   2376:             idTmp=self.REQUEST.SESSION.get('idTmp',None)
                   2377:             
1.71      dwinter  2378:     
1.22      dwinter  2379:         threadName=repeat
                   2380:         if not threadName or threadName=="":
1.71      dwinter  2381:             #new thread not called from the waiting page
1.22      dwinter  2382:             tmpVar=False
1.24      dwinter  2383:        
1.22      dwinter  2384:             thread=uploadATFThread()
1.24      dwinter  2385:             threadName=thread.getName()[0:]                                
1.36      dwinter  2386:             if (not hasattr(self,'_v_uploadATF')):
1.24      dwinter  2387:                    self._v_uploadATF={}
                   2388:                                        
                   2389:             self._v_uploadATF[threadName]=thread
1.22      dwinter  2390:             #self._xmltrans.start()
                   2391:             #thread=Thread(target=self._v_uploadATF)
1.60      dwinter  2392:             logging.info("set thread. extern")
                   2393:             self._v_uploadATF[threadName].set(upload,basketId,self.REQUEST['AUTHENTICATED_USER'],idTmp,serverport=self.REQUEST['SERVER_PORT'])
1.22      dwinter  2394:             #thread.start()
1.60      dwinter  2395:             logging.info("start thread. extern")
1.24      dwinter  2396:             self._v_uploadATF[threadName].start()
1.22      dwinter  2397: 
                   2398:             
1.24      dwinter  2399:             self.threadName=self._v_uploadATF[threadName].getName()[0:]
1.22      dwinter  2400:             wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2401: 
                   2402:             if wait_template:
                   2403:                 return wait_template[0][1]()
                   2404:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
1.24      dwinter  2405:             return pt(txt='/uploadATF',threadName=threadName)
1.22      dwinter  2406:             #_v_xmltrans.run()
                   2407:             
                   2408:         else:
                   2409:             #recover thread, if lost
1.36      dwinter  2410:             if (not hasattr(self,'_v_uploadATF')):
1.24      dwinter  2411:                self._v_uploadATF={}
                   2412:             if not self._v_uploadATF.get(threadName,None):
1.22      dwinter  2413:                  for thread in threading.enumerate():
                   2414:                          if threadName == thread.getName():
1.24      dwinter  2415:                                        self._v_uploadATF[threadName]=thread
                   2416:                                        
1.60      dwinter  2417:             if self._v_uploadATF.get(threadName,None) and (not self._v_uploadATF[threadName].returnValue):
1.22      dwinter  2418:         
                   2419: 
                   2420:                 wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2421:                 if wait_template:
                   2422:                         return wait_template[0][1]()
                   2423:                 
                   2424:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
                   2425: 
1.24      dwinter  2426:                 return pt(txt='/uploadATF',threadName=threadName)
1.22      dwinter  2427:                 
                   2428:             else:
1.60      dwinter  2429:                 tmp=getattr(self.temp_folder,idTmp).returnValue
1.71      dwinter  2430:  
1.22      dwinter  2431:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadCheck.zpt')).__of__(self)
1.39      dwinter  2432: 
1.47      dwinter  2433:                 return pt(changed=tmp['changed'],lockerrors=tmp['lockerrors'],errors=tmp['errors'],dir=tmp['dir'],newPs=tmp['newPs'],basketLen=tmp['basketLen'],numberOfFiles=tmp['numberOfFiles'],
1.22      dwinter  2434:                   basketNameFromId=tmp['basketNameFromId'],basketNameFromFile=tmp['basketNameFromFile'],basketId=tmp['basketId'])
1.30      dwinter  2435:                      
                   2436:     def redoUpload(self,threadName):
                   2437:        """redo the upload"""
                   2438:        tmp=self.cdli_main.tmpStore2[threadName]
                   2439:        pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadCheck.zpt')).__of__(self)
1.45      dwinter  2440:        return pt(changed=tmp['changed'],lockerrors=tmp['lockerrors'],errors=tmp['errors'],dir=tmp['dir'],newPs=tmp['newPs'],basketLen=tmp['basketLen'],numberOfFiles=tmp['numberOfFiles'],
1.30      dwinter  2441:                   basketNameFromId=tmp['basketNameFromId'],basketNameFromFile=tmp['basketNameFromFile'],basketId=tmp['basketId'])
                   2442:                  
1.22      dwinter  2443:     def uploadATFfinally(self,procedure='',comment="",basketname='',unlock=None,repeat=None,RESPONSE=None):
                   2444:         """nowupload the files"""
                   2445:        
                   2446:        
                   2447:        
                   2448:         threadName=repeat
                   2449:         if not threadName or threadName=="":
1.24      dwinter  2450:             thread=uploadATFfinallyThread()
                   2451:             threadName=thread.getName()[0:]
1.36      dwinter  2452: 
1.35      dwinter  2453:             if (not hasattr(self,'_v_uploadATF')):
1.46      dwinter  2454:                                 self._v_uploadATF={}
1.36      dwinter  2455: 
1.43      dwinter  2456: 
1.24      dwinter  2457:             self._v_uploadATF[threadName]=thread
1.22      dwinter  2458: 
1.60      dwinter  2459:             idTmp=self.REQUEST.SESSION['idTmp']
                   2460:             stObj=getattr(self.temp_folder,idTmp)
                   2461:             self._v_uploadATF[threadName].set(procedure,comment=comment,basketname=basketname,unlock=unlock,SESSION=stObj.returnValue,username=self.REQUEST['AUTHENTICATED_USER'],serverport=self.REQUEST['SERVER_PORT'])
1.22      dwinter  2462: 
1.24      dwinter  2463:             self._v_uploadATF[threadName].start()
1.22      dwinter  2464: 
                   2465:             
1.24      dwinter  2466:             
1.22      dwinter  2467:             wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2468: 
                   2469:             if wait_template:
                   2470:                 return wait_template[0][1]()
                   2471:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
                   2472: 
1.24      dwinter  2473:             return pt(txt='/uploadATFfinally',threadName=threadName)
1.22      dwinter  2474:             #_v_xmltrans.run()
                   2475:         
                   2476:         else:
                   2477:             #recover thread, if lost
                   2478:             if not hasattr(self,'_v_uploadATF'):
1.24      dwinter  2479:                self._v_uploadATF={}
                   2480:             if not self._v_uploadATF.get(threadName,None):
1.22      dwinter  2481:                  for thread in threading.enumerate():
                   2482:                          if threadName == thread.getName():
1.24      dwinter  2483:                                        self._v_uploadATF[threadName]=thread
1.22      dwinter  2484:                                        
1.24      dwinter  2485:             if self._v_uploadATF.get(threadName,None) and (self._v_uploadATF[threadName] is not None) and (not self._v_uploadATF[threadName].end) :
1.22      dwinter  2486: 
                   2487:                 wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2488:                 if wait_template:
                   2489:                         return wait_template[0][1]()
                   2490:                 
                   2491:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
1.24      dwinter  2492:                 return pt(txt='/uploadATFfinally',threadName=threadName)
1.22      dwinter  2493:             else:
1.60      dwinter  2494:               self.REQUEST.SESSION['idTmp']=None
1.22      dwinter  2495:               if RESPONSE is not None:
                   2496:                   RESPONSE.redirect(self.absolute_url())
                   2497: 
1.49      dwinter  2498:     def importFiles(self,comment="",author="" ,folderName="/Users/dwinter/atf", files=None,ext=None):
1.1       dwinter  2499:         """import files"""
1.22      dwinter  2500:         root=self.cdli_main
1.49      dwinter  2501:         count=0
1.3       dwinter  2502:         if not files:
                   2503:             files=os.listdir(folderName)
                   2504:             
1.1       dwinter  2505:         for f in files:
                   2506:             folder=f[0:3]
                   2507:             f2=f[0:5]
1.22      dwinter  2508:             obj=self.ZopeFind(root,obj_ids=[folder])
1.19      dwinter  2509:             if ext:
                   2510:   
1.65      dwinter  2511:                 ext.result="<p>adding: %s </p>"%f+ext.result
1.1       dwinter  2512:             if not obj:
1.22      dwinter  2513:                 manage_addCDLIFileFolder(root,folder,folder)
                   2514:                 fobj=getattr(root,folder)
1.58      dwinter  2515:                 #transaction.get().commit()                           
1.1       dwinter  2516:             else:
                   2517:                 fobj=obj[0][1]
                   2518:             
                   2519:             obj2=fobj.ZopeFind(fobj,obj_ids=[f2])
                   2520:         
                   2521:             if not obj2:
                   2522:                 manage_addCDLIFileFolder(fobj,f2,f2)
                   2523:                 fobj2=getattr(fobj,f2)
                   2524:         
                   2525:             else:
                   2526:                 fobj2=obj2[0][1]
                   2527:               
1.48      dwinter  2528:             file2=os.path.join(folderName,f)  
1.1       dwinter  2529:             id=f
                   2530:             manage_addCDLIFile(fobj2,f,'','')
                   2531:             id=f
                   2532:             ob=fobj2._getOb(f)
                   2533:             ob.title=id
                   2534:             
1.48      dwinter  2535:             manage_addCDLIFileObject(ob,id,comment,author,file2,content_type='',from_tmp=True)
1.3       dwinter  2536:             self.CDLICatalog.catalog_object(ob)
                   2537:             #self.CDLICatalog.manage_catalogFoundItems(obj_ids=[id],search_sub=1)
                   2538:             #self.CDLICatalog.manage_catalogObject(self.REQUEST, self.REQUEST.RESPONSE, 'CDLICatalog', urlparse.urlparse(ob.absolute_url())[1])
1.66      dwinter  2539:             count+=1
1.49      dwinter  2540: 
1.66      dwinter  2541:             if count > 1000:
                   2542:                 print "committing"
                   2543:                 transaction.get().commit()
                   2544:                 count=0
                   2545:             transaction.get().commit()
1.3       dwinter  2546:         return "ok"
1.22      dwinter  2547:          
                   2548: 
                   2549: manage_addCDLIRootForm=DTMLFile('dtml/rootAdd', globals())
1.1       dwinter  2550: 
                   2551:     
1.22      dwinter  2552: def manage_addCDLIRoot(self, id, title='',
1.1       dwinter  2553:                      createPublic=0,
                   2554:                      createUserF=0,
                   2555:                      REQUEST=None):
                   2556:     """Add a new Folder object with id *id*.
                   2557: 
                   2558:     If the 'createPublic' and 'createUserF' parameters are set to any true
                   2559:     value, an 'index_html' and a 'UserFolder' objects are created respectively
                   2560:     in the new folder.
                   2561:     """
1.22      dwinter  2562:     ob=CDLIRoot()
1.1       dwinter  2563:     ob.id=str(id)
                   2564:     ob.title=title
1.61      dwinter  2565:     try:
1.66      dwinter  2566:         self._setObject(id, ob)
1.61      dwinter  2567:     except:
1.66      dwinter  2568:         pass
1.1       dwinter  2569:     ob=self._getOb(id)
                   2570: 
                   2571:     checkPermission=getSecurityManager().checkPermission
                   2572: 
                   2573:     if createUserF:
                   2574:         if not checkPermission('Add User Folders', ob):
                   2575:             raise Unauthorized, (
                   2576:                   'You are not authorized to add User Folders.'
                   2577:                   )
                   2578:         ob.manage_addUserFolder()
                   2579: 
                   2580:   
                   2581:     if REQUEST is not None:
1.22      dwinter  2582:         return self.manage_main(self, REQUEST, update_menu=1)    
                   2583:  

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>