Annotation of cdli/cdli_files.py, revision 1.80.2.5

1.22      dwinter     1: """CDLI extensions of the filearchive"""    
1.47      dwinter     2: from Products.versionedFile.extVersionedFile import *
1.1       dwinter     3: from Products.ZCatalog.CatalogPathAwareness import CatalogAware
1.22      dwinter     4: from tempfile import mkstemp,mkdtemp    
1.1       dwinter     5: import os.path
                      6: import os
                      7: from types import *
1.3       dwinter     8: import urlparse
1.49      dwinter     9: import urllib
                     10: import cgi
1.4       dwinter    11: from OFS.OrderedFolder import OrderedFolder
                     12: from OFS.SimpleItem import SimpleItem
                     13: import time
1.12      dwinter    14: from OFS.Folder import manage_addFolder
                     15: import re
1.19      dwinter    16: from AccessControl import ClassSecurityInfo
                     17: from Acquisition import Implicit
1.39      dwinter    18: from Globals import Persistent
1.19      dwinter    19: from threading import Thread
                     20: from ZPublisher.HTTPRequest import HTTPRequest
                     21: from ZPublisher.HTTPResponse import HTTPResponse
                     22: from ZPublisher.BaseRequest import RequestContainer
1.20      dwinter    23: import threading
1.53      dwinter    24: from BTrees.OOBTree import OOBTree
1.57      dwinter    25: import logging
1.58      dwinter    26: import transaction
1.61      dwinter    27: import copy
1.66      dwinter    28: import codecs
1.76      dwinter    29: import sys
1.22      dwinter    30: 
1.80.2.4  casties    31: import cdliSplitter
                     32: 
                     33: 
1.79      casties    34: def unicodify(s):
                     35:     """decode str (utf-8 or latin-1 representation) into unicode object"""
                     36:     if not s:
                     37:         return u""
                     38:     if isinstance(s, str):
                     39:         try:
                     40:             return s.decode('utf-8')
                     41:         except:
                     42:             return s.decode('latin-1')
                     43:     else:
                     44:         return s
                     45: 
                     46: def utf8ify(s):
                     47:     """encode unicode object or string into byte string in utf-8 representation.
                     48:        assumes string objects to be utf-8"""
                     49:     if not s:
                     50:         return ""
                     51:     if isinstance(s, str):
                     52:         return s
                     53:     else:
                     54:         return s.encode('utf-8')
                     55: 
1.80.2.4  casties    56: def formatAtfLineHtml(l, nolemma=True):
                     57:     """escape special ATF characters for HTML"""
                     58:     if not l:
                     59:         return ""
                     60: 
                     61:     if nolemma:
                     62:         # ignore lemma lines
                     63:         if l.lstrip().startswith('#lem:'):
                     64:             return ""
                     65:     # replace &
                     66:     l = l.replace('&','&')
                     67:     # replace angular brackets
                     68:     l = l.replace('<','&lt;')
                     69:     l = l.replace('>','&gt;')
                     70:     return l
                     71: 
1.79      casties    72: 
1.73      dwinter    73: def generateXMLReturn(hash):
                     74:     """erzeugt das xml file als returnwert fuer uploadATFRPC"""
                     75: 
                     76:     ret="<return>"
                     77:     
                     78:     ret+="<errors>"
                     79:     for error in hash['errors']:
                     80:         ret+="""<error atf="%s">%s</error>"""%error
                     81:     
                     82:     ret+="</errors>"
                     83:     
                     84:     ret+="<changes>"
                     85:     for changed in hash['changed']:
                     86:         ret+="""<change atf="%s">%s</change>"""%changed
                     87:     ret+="</changes>"
                     88:     
                     89:     ret+="<newPs>"
                     90:     for new in hash['newPs']:
                     91:         ret+="""<new atf="%s"/>"""%new
                     92:     ret+="</newPs>"
                     93:     
                     94:     ret+="</return>"
                     95:     return ret
                     96:     
                     97:     
                     98:     
                     99:     
                    100:     
                    101:     
                    102:     
                    103:     
                    104:     
                    105:     
1.55      dwinter   106: def unique(s):
                    107:     """Return a list of the elements in s, but without duplicates.
                    108: 
                    109:     For example, unique([1,2,3,1,2,3]) is some permutation of [1,2,3],
                    110:     unique("abcabc") some permutation of ["a", "b", "c"], and
                    111:     unique(([1, 2], [2, 3], [1, 2])) some permutation of
                    112:     [[2, 3], [1, 2]].
                    113: 
                    114:     For best speed, all sequence elements should be hashable.  Then
                    115:     unique() will usually work in linear time.
                    116: 
                    117:     If not possible, the sequence elements should enjoy a total
                    118:     ordering, and if list(s).sort() doesn't raise TypeError it's
                    119:     assumed that they do enjoy a total ordering.  Then unique() will
                    120:     usually work in O(N*log2(N)) time.
                    121: 
                    122:     If that's not possible either, the sequence elements must support
                    123:     equality-testing.  Then unique() will usually work in quadratic
                    124:     time.
                    125:     (from the python cookbook)
                    126:     """
                    127: 
                    128:     n = len(s)
                    129:     if n == 0:
                    130:         return []
                    131: 
                    132:     # Try using a dict first, as that's the fastest and will usually
                    133:     # work.  If it doesn't work, it will usually fail quickly, so it
                    134:     # usually doesn't cost much to *try* it.  It requires that all the
                    135:     # sequence elements be hashable, and support equality comparison.
                    136:     u = {}
                    137:     try:
                    138:         for x in s:
                    139:             u[x] = 1
                    140:     except TypeError:
                    141:         del u  # move on to the next method
                    142:     else:
                    143:         return u.keys()
                    144: 
                    145:     # We can't hash all the elements.  Second fastest is to sort,
                    146:     # which brings the equal elements together; then duplicates are
                    147:     # easy to weed out in a single pass.
                    148:     # NOTE:  Python's list.sort() was designed to be efficient in the
                    149:     # presence of many duplicate elements.  This isn't true of all
                    150:     # sort functions in all languages or libraries, so this approach
                    151:     # is more effective in Python than it may be elsewhere.
                    152:     try:
                    153:         t = list(s)
                    154:         t.sort()
                    155:     except TypeError:
                    156:         del t  # move on to the next method
                    157:     else:
                    158:         assert n > 0
                    159:         last = t[0]
                    160:         lasti = i = 1
                    161:         while i < n:
                    162:             if t[i] != last:
                    163:                 t[lasti] = last = t[i]
                    164:                 lasti += 1
                    165:             i += 1
                    166:         return t[:lasti]
                    167: 
                    168:     # Brute force is all that's left.
                    169:     u = []
                    170:     for x in s:
                    171:         if x not in u:
                    172:             u.append(x)
                    173:     return u
                    174: 
                    175: 
1.39      dwinter   176: class BasketContent(SimpleItem):
                    177:     """classe fuer den Inhalt eines Baskets"""
1.77      dwinter   178:    
1.39      dwinter   179:     def __init__(self,content=[]):
                    180:         """content"""
                    181:         self.contentList=content[0:]
                    182:     
                    183:     def getContent(self):
                    184:         """get content"""
1.19      dwinter   185: 
1.39      dwinter   186:         return self.contentList
                    187:     
                    188:     def setContent(self,content):
                    189:         self.contentList=content[0:]
                    190:     
                    191:     def numberOfItems(self):
                    192:         """number"""
                    193:         
                    194:         return len(self.getContent())
                    195:         
                    196:     
1.19      dwinter   197: class uploadATFfinallyThread(Thread):
1.20      dwinter   198:     """class for adding uploaded filed (temporarily stored in the staging area at /tmp"""
                    199:     
1.19      dwinter   200:     def __init__(self):
1.20      dwinter   201:         """init for uploadATFfinallyThread"""
1.19      dwinter   202:         self.continueVar=True
                    203:         self.returnValue=None
                    204:         self.end=False
                    205:         Thread.__init__(self)
                    206:            
                    207:     def set(self,procedure,comment="",basketname='',unlock=None,SESSION=None,username=None,serverport="8080"):
1.20      dwinter   208:         """set start values for the thread"""
1.19      dwinter   209:         self.procedure=procedure
                    210:         self.comment=comment
                    211:         self.basketname=basketname
                    212:         self.unlock=unlock
                    213:         self.SESSION=SESSION
                    214:         self.username=username
                    215:         self.serverport=serverport
1.60      dwinter   216:        
1.19      dwinter   217:         
                    218:     def __call__(self):
1.20      dwinter   219:         """call of the thread (equals run)"""
1.19      dwinter   220:         self.run()
                    221:         return True
                    222:     
                    223:     def getContext(self, app,serverport="8080"):
1.20      dwinter   224:         """get the context within the ZODB"""
                    225:         
1.19      dwinter   226:         resp = HTTPResponse(stdout=None)
                    227:         env = {
                    228:             'SERVER_NAME':'localhost',
                    229:             'SERVER_PORT':serverport,
                    230:             'REQUEST_METHOD':'GET'
                    231:             }
                    232:         req = HTTPRequest(None, env, resp)
                    233:         return app.__of__(RequestContainer(REQUEST = req))
                    234:           
1.26      dwinter   235:         
1.19      dwinter   236:     def run(self):
1.20      dwinter   237:         """run"""
                    238:         
1.19      dwinter   239:         self.result=""
1.20      dwinter   240:         #find context within ZODB
1.19      dwinter   241:         from Zope import DB
                    242:         conn = DB.open()
                    243:         root = conn.root()
                    244:         app  = root['Application']
                    245:         ctx = self.getContext(app,serverport=self.serverport)
                    246: 
1.20      dwinter   247:         #add the files
1.19      dwinter   248:         self.uploadATFfinallyThread(ctx,self.procedure,comment=self.comment,basketname=self.basketname,unlock=self.unlock,SESSION=self.SESSION,username=self.username)
1.20      dwinter   249:         #commit the transactions
1.58      dwinter   250:         transaction.get().commit()
1.19      dwinter   251:         conn.close()
1.20      dwinter   252:         #set flag for end of this method
1.19      dwinter   253:         self.end=True
1.66      dwinter   254:         logging.info("ended")
                    255:         return True
1.19      dwinter   256:     
1.22      dwinter   257:     def __del__(self):
                    258:         """delete"""
                    259:         
                    260:         
                    261:     
1.19      dwinter   262:     def getResult(self):
1.20      dwinter   263:         """method for accessing result"""
                    264:         
1.19      dwinter   265:         return self.result
                    266:      
                    267:     def uploadATFfinallyThread(self,ctx,procedure,comment="",basketname='',unlock=None,RESPONSE=None,SESSION=None,username=None):
                    268:         """upload the files"""
1.20      dwinter   269:         #TODO: make this configurable, at the moment, rootFolder for cdli has to be cdliRoot
1.19      dwinter   270:         ctx2=ctx.cdliRoot
                    271:    
                    272:         self.result+="<h2>Start processing</h2>"
1.20      dwinter   273:         
                    274:         #shall I only upload the changed files?
1.73      dwinter   275:         logging.info("uploadATFfinally procedure: %s"%procedure)
1.19      dwinter   276:         if procedure=="uploadchanged":
1.66      dwinter   277:             changed=[x[0] for x in SESSION.get('changed',[])]
1.61      dwinter   278:             uploadFns=changed+SESSION.get('newPs',[])
1.19      dwinter   279:         
1.20      dwinter   280:         #or all
1.19      dwinter   281:         elif procedure=="uploadAll":
                    282:             uploadFns=[]
                    283:             for x in os.listdir(SESSION['tmpdir']):
1.45      dwinter   284:                 if not x in SESSION['lockerrors']:
1.19      dwinter   285:                     uploadFns.append(x)
1.20      dwinter   286:                     
                    287:         #or maybe nothing
1.19      dwinter   288:         elif procedure=="noupload":
                    289:                         return True
                    290:         else:
                    291:             uploadFns=[]
                    292:             
1.20      dwinter   293:         #do first the changed files    
1.65      dwinter   294:         i=0
1.19      dwinter   295:         for fn in uploadFns:
1.66      dwinter   296:             i+=1
1.19      dwinter   297:             founds=ctx2.CDLICatalog.search({'title':fn})
                    298:             if len(founds)>0:
                    299:                 SESSION['author']=str(username)
1.63      dwinter   300:                 self.result="<p>Changing : %s"%fn+self.result
1.49      dwinter   301:                 founds[0].getObject().manage_addCDLIFileObject('',comment,SESSION['author'],file=os.path.join(SESSION['tmpdir'],fn),from_tmp=True)
1.62      dwinter   302:             if i==200:
1.66      dwinter   303:                         i=0
                    304:                         transaction.get().commit()
                    305:                         logging.info("changing: do commit")
1.65      dwinter   306:         
                    307:         transaction.get().commit()
                    308:         logging.info("changing: last commit")
1.62      dwinter   309: 
1.20      dwinter   310:         #now add the new files        
1.19      dwinter   311:         newPs=SESSION['newPs']
                    312:         if len(newPs)>0:
                    313:             tmpDir=SESSION['tmpdir']
1.65      dwinter   314:             logging.info("adding start")
1.63      dwinter   315:             self.result="<p>Adding files</p>"+self.result
1.20      dwinter   316:             #TODO: make this configurable, at the moment base folder for the files has to be cdli_main
1.22      dwinter   317:             
                    318:             ctx2.importFiles(comment=comment,author=str(username) ,folderName=tmpDir, files=newPs,ext=self)
1.65      dwinter   319:             logging.info("adding finished")
1.19      dwinter   320:         
                    321:         
1.20      dwinter   322:         #unlock locked files?
1.19      dwinter   323:         if unlock:
1.65      dwinter   324:             logging.info("unlocking start")
1.63      dwinter   325:             self.result="<p>Unlock files</p>"+self.result
1.19      dwinter   326:             unlockFns=[]
                    327:             for x in os.listdir(SESSION['tmpdir']):
                    328:                     if not x in SESSION['errors']:
                    329:                         unlockFns.append(x)
1.65      dwinter   330:             logging.info("unlocking have now what to unlock")
                    331:                         
1.19      dwinter   332:             for fn in unlockFns:
1.65      dwinter   333:                 #logging.info("will unlock: %s"%fn)
1.19      dwinter   334:                 founds=ctx2.CDLICatalog.search({'title':fn})
1.65      dwinter   335:                 #logging.info("found it: %s"%repr(founds))
1.19      dwinter   336:                 if len(founds)>0:
1.65      dwinter   337:                     #logging.info("unlock: %s"%founds[0].getObject().getId())
1.19      dwinter   338:                     SESSION['author']=str(username)
                    339:                    
                    340:                     founds[0].getObject().lockedBy=""
1.65      dwinter   341:             logging.info("unlocking done")
1.19      dwinter   342:                     
1.65      dwinter   343:         #if a basketname is given, add files to the basket
1.19      dwinter   344:         if not (basketname ==''):
1.65      dwinter   345:             logging.info("add to basket %s"%basketname)
                    346:             self.result="<p>Add to basket</p>"+self.result
1.41      dwinter   347:             basketId=ctx2.basketContainer.getBasketIdfromName(basketname)
1.19      dwinter   348:             
                    349:             if not basketId: # create new basket
1.65      dwinter   350:                 logging.info("create basket %s"%basketname)
                    351:                 self.result="<p>Create a new basket</p>"+self.result
1.19      dwinter   352:                 ob=ctx2.basketContainer.addBasket(basketname)
                    353:                 basketId=ob.getId()
                    354:             basket=getattr(ctx2.basketContainer,str(basketId))
                    355:             ids=os.listdir(SESSION['tmpdir'])
                    356:             basket.addObjects(ids,deleteOld=True,username=str(username))    
                    357:                
                    358:         if RESPONSE is not None:
                    359:             RESPONSE.redirect(self.aq_parent.absolute_url())
                    360:         
                    361: 
1.65      dwinter   362:         logging.info("uploadfinally done")
1.19      dwinter   363:         return True
1.60      dwinter   364: 
                    365: class tmpStore(SimpleItem):
                    366:     """simple item"""
                    367:     meta_type="cdli_upload"
1.19      dwinter   368:     
1.60      dwinter   369:     def __init__(self,id):
                    370:         """init tmp"""
                    371:         self.id=id
                    372:         
1.19      dwinter   373: class uploadATFThread(Thread):
1.20      dwinter   374:     """class for checking the files befor uploading"""
1.19      dwinter   375:     
                    376:     def __init__(self):
1.20      dwinter   377:         """initialise"""
                    378:         
1.19      dwinter   379:         self.continueVar=True
                    380:         self.returnValue=None
                    381:         
                    382:         Thread.__init__(self)
                    383:         
                    384:         
1.60      dwinter   385:     def set(self,upload,basketId,username,idTmp,serverport="8080"):
1.20      dwinter   386:         """set start values for the thread"""
1.19      dwinter   387:         self.result=""
                    388:         self.upload=upload
                    389:         self.basketId=basketId
                    390:         self.username=username
                    391:         self.serverport=serverport
1.60      dwinter   392:         self.idTmp=idTmp
1.19      dwinter   393:         
                    394:     def __call__(self):
1.20      dwinter   395:         """call method """
1.19      dwinter   396:         self.run()
                    397:         return True
                    398:     
                    399:     def getContext(self, app,serverport="8080"):
1.20      dwinter   400:         """get the context within the ZODB"""
1.19      dwinter   401:         resp = HTTPResponse(stdout=None)
                    402:         env = {
                    403:             'SERVER_NAME':'localhost',
                    404:             'SERVER_PORT':serverport,
                    405:             'REQUEST_METHOD':'GET'
                    406:             }
                    407:         req = HTTPRequest(None, env, resp)
                    408:         return app.__of__(RequestContainer(REQUEST = req))
                    409:         
                    410:     def run(self):
1.60      dwinter   411:         idTmp=self.idTmp
1.19      dwinter   412:         self.result=""
1.20      dwinter   413:         #find context within ZODB
1.19      dwinter   414:         from Zope import DB
                    415:         conn = DB.open()
                    416:         root = conn.root()
                    417:         app  = root['Application']
                    418:         ctx = self.getContext(app,serverport=self.serverport)
1.60      dwinter   419:         logging.info("run intern")
1.63      dwinter   420:         try:
1.73      dwinter   421:             logging.info("created: %s"%idTmp)
1.63      dwinter   422:             ctx.temp_folder._setObject(idTmp,tmpStore(idTmp))
                    423:         except:
                    424:             logging.error("thread upload: %s %s"%sys.exc_info()[0:2])
                    425:             
1.60      dwinter   426:         logging.info("call thread intern")
                    427:         self.uploadATFThread(ctx,self.upload,idTmp,self.basketId)
1.24      dwinter   428:      
1.30      dwinter   429:         #ctx.cdliRoot.cdli_main.tmpStore2[self.getName()[0:]]=self.returnValue
1.58      dwinter   430:         
1.66      dwinter   431:         
1.58      dwinter   432:         transaction.get().commit()
1.49      dwinter   433:        
1.19      dwinter   434:         conn.close()
1.22      dwinter   435:         
1.73      dwinter   436:         return getattr(ctx.temp_folder,idTmp)
1.19      dwinter   437:         
                    438:     def getResult(self):
1.20      dwinter   439:         """method for accessing result"""
1.19      dwinter   440:         return self.result
                    441:     
1.60      dwinter   442:     def uploadATFThread(self,ctx,upload,idTmp,basketId=0):
1.19      dwinter   443:         """upload an atf file"""
                    444:         #TODO: add comments
                    445:         #TODO: finish uploadATF
1.60      dwinter   446:         
                    447:         stObj=getattr(ctx.temp_folder,idTmp)
                    448:         logging.info("start, upload thread")
1.25      dwinter   449:         self.result="<html><body><h2>I got your file, start now to split it into single atf-files!</h2><p>"
                    450:     
1.20      dwinter   451:         #make sure that id is a string and not an integer
1.19      dwinter   452:         basketId=str(basketId)
                    453:         
1.20      dwinter   454:         #TODO: make this configurable, at the moment, rootFolder for cdli has to be cdliRoot
                    455:         ctx2=ctx.cdliRoot
1.19      dwinter   456:         
1.20      dwinter   457:         #get temporary file for staging the downloaded and splitted files
1.19      dwinter   458:         dir=mkdtemp()
1.20      dwinter   459:         
                    460:         
                    461:         changed=[] # changed files
                    462:         errors=[]  # files with errors
1.45      dwinter   463:         lockerrors=[]  # files with errors
                    464: 
1.20      dwinter   465:         newPs=[]   # new p filed
                    466:         psNotInCatalog=[] # files not in the catalog
                    467:         
                    468:         #split the uploadedd atf file
1.25      dwinter   469:         basketNameFromFile, numberOfFiles=splitatf(upload,dir,ext=self)
1.19      dwinter   470:         
1.20      dwinter   471:         #find basketId if not set
                    472:         
                    473:         #get active abaket
1.19      dwinter   474:         if basketId == '0':
                    475:             basketObj=ctx2.basketContainer.getActiveBasket()
                    476:             if basketObj:
                    477:                 basketId=basketObj.getId()
                    478:                 
1.45      dwinter   479:         #if there is no active basket and no basketid given, id is empty, else get besketname and length
1.19      dwinter   480:         if basketId == '0':
                    481:             basketNameFromId=""
                    482:             basketLen=0
                    483:         else:
                    484:             basketNameFromId=getattr(ctx2.basketContainer,basketId).title
                    485:             basketLen=getattr(ctx2.basketContainer,basketId).getLastVersion().numberOfItems()
                    486:             
1.60      dwinter   487:         logging.info("got the file, upload thread")
1.25      dwinter   488:         self.result+="""<html><body><h2>I got the files</h2><
                    489:                         p>I am computing the differences to the exisiting files</p>"""
1.20      dwinter   490:                                    
                    491:         #start to check the files
1.19      dwinter   492:         for fn in os.listdir(dir):
                    493:             
1.63      dwinter   494:             self.result="<p>process:%s</p>"%fn+self.result
1.19      dwinter   495:             
1.20      dwinter   496:             # check if file is in the catalog
                    497:             #TODO: checkCatalog is not implemented yet
1.19      dwinter   498:             if ctx2.cdli_main.checkCatalog(fn):
                    499:                 psNotInCatalog.append(fn)
                    500:                 
1.20      dwinter   501:             #check if p-file already at the server  
1.19      dwinter   502:             founds=ctx2.CDLICatalog.search({'title':fn})    
                    503:       
1.20      dwinter   504:             #if not than add filename to the list of newfiles
1.46      dwinter   505:             
                    506:             data=file(os.path.join(dir,fn)).read()
1.69      dwinter   507:             status,msg=checkFile(fn,data,dir)
                    508:             #status=True
                    509:             
                    510:             
1.46      dwinter   511:             if not status: # error
                    512:                 errors.append((fn,msg))
1.69      dwinter   513:             
1.46      dwinter   514:             else:
                    515:                 if len(founds)==0:
                    516:                     newPs.append(fn)
                    517: 
                    518:                 #if p file alread at the server    
                    519:                 for found in founds:
                    520:                     #analyse the differences to the actual file
                    521:                     obj=found.getObject()
                    522: 
                    523:                     if (not (str(obj.lockedBy))=='') and (not (str(obj.lockedBy)==str(self.username))):
1.63      dwinter   524:                                 lockerrors.append((fn,str(obj.lockedBy)))
1.46      dwinter   525:                     else:
                    526:                 
                    527:                         diffs=obj.diff(data)
                    528:                         if diffs[0]>0:
                    529:                             changed.append((obj,diffs)) #hochladen
1.31      dwinter   530: 
1.20      dwinter   531:         #ready, set the returnValues
1.19      dwinter   532:         self.result+="<h3>Done</h3></body></html>"
                    533:         
1.60      dwinter   534:         stObj.returnValue={}
1.19      dwinter   535:         
1.60      dwinter   536:         stObj.returnValue['errors']=errors
1.69      dwinter   537:         
1.60      dwinter   538:         stObj.returnValue['newPs']=newPs
                    539:         stObj.returnValue['tmpdir']=dir
                    540:         stObj.returnValue['basketLen']=basketLen
                    541:         stObj.returnValue['numberOfFiles']=numberOfFiles
                    542:         stObj.returnValue['basketNameFromId']=basketNameFromId
                    543:         stObj.returnValue['basketNameFromFile']=basketNameFromFile
                    544:         stObj.returnValue['basketId']=basketId
                    545:         stObj.returnValue['dir']=dir
1.61      dwinter   546:         #stObj.returnValue['changed']=copy.copy(changed)
                    547:         stObj.returnValue['changed']=[(x[0].getId(),x[1][0]) for x in changed]
                    548:         #stObj.returnValue['lockerrors']=[x[0].getId() for x in lockerrors]
1.63      dwinter   549:         stObj.returnValue['lockerrors']=[x for x in lockerrors]
1.60      dwinter   550:         self.returnValue=True
1.19      dwinter   551:         #ctx2.cdli_main.setTemp('v_uploadATF_returnValue',True)
                    552:     
1.63      dwinter   553:  
1.4       dwinter   554: class CDLIBasketContainer(OrderedFolder):
                    555:     """contains the baskets"""
                    556:     
                    557: 
1.9       dwinter   558:     security=ClassSecurityInfo()
1.4       dwinter   559:     meta_type="CDLIBasketContainer"
                    560:     
1.73      dwinter   561:     def getPNumbersOfBasket(self,basketName):
                    562:         """get all pnumbers of a basket as a list, returns an empty list if basket not found
                    563:         @param basketName: name of the basket
                    564:         """
                    565:         ret=[]
                    566:         basketId=self.getBasketIdfromName(basketName)
                    567:         if not basketId:
                    568:             return []
                    569:         
                    570:         ob=getattr(self,basketId).getContent()
                    571:         
                    572:         ret=[x[0].split(".")[0] for x in ob]
                    573:         
                    574:         return ret
                    575:     
1.77      dwinter   576:     security.declareProtected('manage','getBasketAsOneFile')       
1.73      dwinter   577:     def getBasketAsOneFile(self,basketName,current="no"):
                    578:         """returns all files of the basket combined in one file
                    579:         @param basketName: Name of the basket
                    580:         @param current: (optional) if current is set to "yes" then the most current version of 
                    581:                         all files are downloaded and not the versions of the files as stored in the basket
                    582:         """
                    583:         ret=""
                    584:         basketId=self.getBasketIdfromName(basketName)
                    585:         if not basketId:
                    586:             return ""
                    587:         
                    588:         ob=getattr(self,basketId).getLastVersion()
                    589:         for object in ob.getContent():
                    590:             if current=="no": #version as they are in the basket
                    591:                             ret+=str(object[0].getData())+"\n"
                    592:             elif current=="yes":
                    593:                             #search current object
                    594:                             logging.info("crrent: %s"%object[1].getId().split(".")[0])
                    595:                             founds=self.CDLICatalog.search({'title':object[1].getId().split(".")[0]})
                    596:                             if len(founds)>0:      
                    597:                                 ret+=str(founds[0].getObject().getLastVersion().getData())+"\n"
                    598:         return ret
                    599:     
1.77      dwinter   600:     security.declareProtected('manage','upDateBaskets') 
1.39      dwinter   601:     def upDateBaskets(self):
                    602:         """update content in to objects"""
                    603:         
                    604:         founds=self.ZopeFind(self,obj_metatypes=['CDLIBasketVersion'],search_sub=1)
                    605: 
                    606:         for found in founds:
                    607:             found[1].updateBasket()
                    608:         
1.32      dwinter   609:     security.declareProtected('manage','deleteBaskets')        
1.12      dwinter   610:     def deleteBaskets(self,ids=None):
                    611:         """delete baskets, i.e. move them into trash folder"""
                    612:         
                    613:         
                    614:         found=self.ZopeFind(self,obj_ids=['trash'])
                    615:         
                    616:         if len(found)<1:
                    617:             manage_addFolder(self, 'trash')
                    618:             trash=self._getOb('trash')
                    619:         else:
                    620:             trash=found[0][1]
                    621:         
                    622:         if type(ids) is not ListType:
                    623:             ids=[ids]
                    624:         cut=self.manage_cutObjects(ids)
                    625:         trash.manage_pasteObjects(cut)
                    626:         
1.32      dwinter   627:     security.declareProtected('manage','manageBaskets')       
1.73      dwinter   628:     def manageBaskets(self,submit,ids=None,basket1="",basket2="",joinBasket="",subtractBasket="",REQUEST=None,RESPONSE=None):
1.12      dwinter   629:         """manage baskets, delete or copy"""
                    630:         if submit=="delete":
                    631:             self.deleteBaskets(ids)
                    632:         
1.72      dwinter   633:         elif submit=="join":
1.73      dwinter   634:             flag,msg=self.joinBasket(joinBasket, ids)
1.72      dwinter   635:             logging.info("joining %s %s"%(flag,msg))
                    636:             
                    637:         elif submit=="subtract":
                    638:             logging.info("BBBb %s %s"%(basket1,basket2))
1.73      dwinter   639:             flag,msg=self.subtractBasket(subtractBasket, basket1,basket2)
1.72      dwinter   640:             logging.info("subtract %s %s"%(flag,msg))
1.12      dwinter   641:             
                    642:         if RESPONSE:
                    643:             RESPONSE.redirect(self.absolute_url())
1.32      dwinter   644:     
1.33      dwinter   645:     security.declareProtected('View','getBasketIdfromName')       
1.5       dwinter   646:     def getBasketIdfromName(self,basketname):
                    647:         """get id from name"""
                    648: 
                    649:         for basket in self.ZopeFind(self,obj_metatypes=["CDLIBasket"]):
                    650:             if basket[1].title==basketname:
                    651:                 return basket[0]
                    652:         else:
                    653:             None
1.9       dwinter   654:     
                    655:     security.declareProtected('manage','uploadBasket_html')        
                    656:             
1.4       dwinter   657:     def uploadBasket_html(self,basketId='0'):
                    658:         """upload an atf file, html form"""
1.9       dwinter   659:         
                    660: 
1.4       dwinter   661:         basketId=str(basketId)
                    662:         if not basketId=='0':
                    663:             basketName=getattr(self.basketContainer,basketId).title
                    664:         else:
                    665:             basketName=""
                    666:             
                    667:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadBasket_html.zpt')).__of__(self)
                    668:         return pt(basketId=basketId,basketName=basketName)
                    669:    
                    670: 
1.77      dwinter   671:     security.declareProtected('manage','index_html')    
1.4       dwinter   672:     def index_html(self):
                    673:         """stanadard ansicht"""
1.9       dwinter   674:         
                    675: 
                    676: 
1.4       dwinter   677:         ext=self.ZopeFind(self,obj_ids=["index.html"])
                    678:         if ext:
                    679:             return ext[0][1]()
                    680:         
                    681:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','BasketContainerMain')).__of__(self)
                    682:         return pt()
                    683:     
                    684:     def getStorageFolderRoot(self):
                    685:         """root des storage folders"""
                    686:         return self.cdli_main
                    687:     
                    688:     def __init__(self,id,title):
                    689:         """ init basket container"""
                    690:         self.id=id
                    691:         self.title=title
                    692:      
1.51      dwinter   693:  
1.49      dwinter   694:     def getBasketsId(self):
                    695:         """get all baskets als klartext"""
1.51      dwinter   696:         
                    697:         ret=""
1.49      dwinter   698:         baskets=self.ZopeFind(self,obj_metatypes=['CDLIBasket'])
                    699:         for basket in baskets:
                    700:             com,user,time,values = basket[1].getContentIds()
                    701:             ret+= "BASKET:"+com+"\t"+user+"\t"+time+"\n"
                    702:             for x in values:
                    703:                 ret+= x[0]+"\t"+x[1]+"\n"
1.66      dwinter   704:                 return ret
1.49      dwinter   705: 
1.4       dwinter   706:     def getBaskets(self,sortField='title'):
                    707:         """get all baskets files"""
                    708: 
                    709:         def sortName(x,y):
                    710:             return cmp(x[1].title.lower(),y[1].title.lower())
                    711: 
                    712:         def sortDate(x,y):
                    713:             return cmp(y[1].getLastVersion().getTime(),x[1].getLastVersion().getTime())
                    714: 
                    715:         
                    716:         def sortComment(x,y):
                    717: 
                    718:         
                    719:             
                    720:              try:
                    721:                 xc=getattr(x[1],'comment','ZZZZZZZZZZZZZ').lower()
                    722:              except:
                    723:                 xc='ZZZZZZZZZZZZZ'.lower()
                    724:              try:
                    725:                 yc=getattr(y[1],'comment','ZZZZZZZZZZZZZ').lower()
                    726:              except:
                    727:                 yc='ZZZZZZZZZZZZZ'.lower()
                    728:     
                    729:     
                    730:              if (xc=='') or (xc=='ZZZZZZZZZZZZZ'.lower()):
                    731:                  
                    732:                  try:
                    733:                      xc=x[1].getLastVersion().getComment().lower()
                    734:                  except:
                    735:                      xc='ZZZZZZZZZZZZZ'.lower()
                    736:                      
                    737:              if (yc=='') or (yc=='ZZZZZZZZZZZZZ'.lower()):
                    738:                  try:
                    739:                      yc=y[1].getLastVersion().getComment().lower()
                    740:                  except:
                    741:                      yc='ZZZZZZZZZZZZZ'.lower()
                    742:     
                    743:              
                    744:                  return cmp(xc,yc)
                    745:         
                    746:         def sortAuthor(x,y):
                    747:             
                    748:             return cmp(x[1].getLastVersion().getUser().lower(),y[1].getLastVersion().getUser().lower())
                    749:         
                    750:         baskets=self.ZopeFind(self,obj_metatypes=['CDLIBasket'])
                    751:         
                    752:         
                    753:         if sortField=='title':
                    754:             baskets.sort(sortName)
                    755:         elif sortField=='date':
                    756:             baskets.sort(sortDate)
                    757:         elif sortField=='author':
                    758:             baskets.sort(sortAuthor)
                    759:         elif sortField=='comment':
                    760:             baskets.sort(sortComment)
1.39      dwinter   761: 
1.4       dwinter   762:         return baskets
1.72      dwinter   763:     
                    764:         
                    765:     def subtractBasket(self,newBasket,basket1,basket2):
                    766:         """subtract basket2 from basket1 
                    767:         (i.e. newbasket will contain alle elements of basket1 which are not in basket2), 
                    768:         if basket2 contains files which are not in basket1, then theses files fill be ignored
                    769:                
                    770:         @param newbasket: name of the new basket
                    771:         @param basket1: basket where basket2 will be subtracted from
                    772:         @param basket2: see above
                    773:       
                    774:         """
                    775:         logging.info("CCCCC %s %s"%(basket1,basket2))
                    776:    
                    777:         try:
                    778:             newB=self.addBasket(newBasket)
                    779:         except:
                    780:             return False, "cannot create the new basket"
                    781:         
                    782:         
1.4       dwinter   783: 
1.72      dwinter   784:        
                    785:      
                    786:         bas2= getattr(self,basket2)            
                    787:         bas2content=bas2.getContent()
                    788:         bas2ids=[x[0] for x in bas2content]
                    789:         
                    790:        
                    791:             
                    792:         bas1= getattr(self,basket1)   
                    793:         bas1content=bas1.getContent()
                    794:         
                    795:         
                    796:         newBasketContent={}
                    797:         
                    798:         for id,version in bas1content:
                    799:             if not (id in bas2ids):
                    800:                 newBasketContent[id]=version
                    801:         
                    802:         username=self.getActualUserName()
                    803:         
                    804:         logging.info("sbc %s"%newBasketContent)
                    805:         newB.addObjectsWithVersion(newBasketContent,username=username,catalog=self.CDLICatalog)
                    806:         
                    807:         return True, ""
                    808:     
                    809:             
                    810:     def joinBasket(self,newBasket,oldBaskets):
1.71      dwinter   811:         """join two baskets
                    812:         @param newbasket: name of the new basket
                    813:         @param oldbaskets: list of baskets to be joined
                    814:         """
1.72      dwinter   815:         try:
                    816:             newB=self.addBasket(newBasket)
                    817:         except:
                    818:             return False, "cannot create the new basket"
                    819:         
                    820:         newBasketContent={}
                    821:         for ob in oldBaskets:
                    822:             x= getattr(self,ob,None)
                    823:             if x is None:
                    824:                 return False, "cannot find basket: %s"%ob
                    825:             
                    826:             ids=x.getContent() # hole den Inhalt
                    827:             
                    828:             for id,version in ids:
                    829:                 if newBasketContent.has_key(id): # p number gibt's schon
                    830:                     newBasketContent[id]=max(newBasketContent[id],version) # speichere die groessere Versionsnumber
                    831:                 else:
                    832:                     newBasketContent[id]=version
                    833:         username=self.getActualUserName()
                    834:         
                    835:         logging.info("nbc %s"%newBasketContent)
                    836:         newB.addObjectsWithVersion(newBasketContent,username=username,catalog=self.CDLICatalog)
                    837:         
                    838:         return True, ""
                    839:     
1.4       dwinter   840:     def getNewId(self):
                    841:         """createIds"""
                    842:         last=getattr(self,'last',0)
                    843:         last +=1
                    844:         while len(self.ZopeFind(self,obj_ids=[str(last)]))>0:
                    845:             last+=1
                    846:     
                    847:         self.last=last
                    848:         return last
                    849:     
1.6       dwinter   850:     def setActiveBasket(self,basketId,REQUEST=None):
1.4       dwinter   851:         """store active basketId in a cookie"""
                    852:         self.REQUEST.RESPONSE.setCookie("CDLIActiveBasket",basketId,path="/")
1.66      dwinter   853:         try:
                    854:             qs=cgi.parse_qs(REQUEST['QUERY_STRING'])
                    855:             del(qs['basketId'])
                    856:         except:
                    857:             qs={}
1.6       dwinter   858:         if REQUEST:
1.49      dwinter   859:             REQUEST.RESPONSE.redirect(REQUEST['URL1']+'?'+urllib.urlencode(qs))
1.6       dwinter   860:             
1.4       dwinter   861:     def getActiveBasket(self):
                    862:         """get active basket from cookie"""
                    863:         
                    864:         id= self.REQUEST.cookies.get('CDLIActiveBasket',None)
1.6       dwinter   865:         if id:
                    866:             obj=getattr(self,str(id),None)
                    867:         else:
                    868:             obj=None
1.4       dwinter   869:         return obj
1.6       dwinter   870:     
1.4       dwinter   871:     def getActualUserName(self):
                    872:         """get name of the actualuser"""
                    873:         return str(self.REQUEST['AUTHENTICATED_USER'])
                    874:     
1.77      dwinter   875:     security.declareProtected('manage','addBasket') 
1.4       dwinter   876:     def addBasket(self,newBasketName):
                    877:         """add a new basket"""
                    878:         
                    879:         ob=manage_addCDLIBasket(self,newBasketName)
                    880:         return ob
1.72      dwinter   881: 
1.6       dwinter   882:     def storeInBasket(self,submit,ids=None,newBasketName=None,fromFileList=None,RESPONSE=None,REQUEST=None):
1.4       dwinter   883:         """store it"""
1.6       dwinter   884:         if not ids:
                    885:             ids=self.REQUEST.SESSION['fileIds']
                    886:             
1.4       dwinter   887:         if type(ids) is not ListType:
                    888:             ids=[ids]
                    889:         
1.6       dwinter   890:         if (submit.lower()=="store in new basket") or (submit.lower()=="new basket"):
1.4       dwinter   891:             basketRet=self.addBasket(newBasketName)
                    892:             self.setActiveBasket(basketRet.getId())
                    893:             basket=getattr(self,basketRet.getId())
1.6       dwinter   894:         elif (submit.lower()=="store in active basket") or (submit.lower()=="active basket"):
1.4       dwinter   895:             basket=self.getActiveBasket()
1.6       dwinter   896:         
                    897:         added=basket.addObjects(ids)
                    898:         back=self.REQUEST['HTTP_REFERER'].split("?")[0]+"?basketName="+basket.title+"&numberOfObjects="+str(added)
                    899:         
                    900:         
                    901:         if fromFileList:
1.7       dwinter   902: 
1.6       dwinter   903:             return self.cdli_main.findObjectsFromList(list=self.REQUEST.SESSION['fileIds'],basketName=basket.title,numberOfObjects=added)
                    904:        
1.4       dwinter   905:         if RESPONSE:
1.6       dwinter   906:             
1.4       dwinter   907:             RESPONSE.redirect(back)
                    908:             
1.6       dwinter   909:         return True
                    910:     
1.4       dwinter   911: def manage_addCDLIBasketContainerForm(self):
                    912:     """add the CDLIBasketContainer form"""
                    913:     pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','addCDLIBasketContainer.zpt')).__of__(self)
                    914:     return pt()
                    915: 
                    916: def manage_addCDLIBasketContainer(self,id,title,RESPONSE=None):
                    917:     """add the basket"""
                    918:     ob=CDLIBasketContainer(id,title)
                    919:     
                    920:     self._setObject(id, ob)
                    921:     
                    922:     if RESPONSE is not None:
                    923:         RESPONSE.redirect('manage_main')
                    924: 
1.5       dwinter   925: class CDLIBasket(Folder,CatalogAware):
1.4       dwinter   926:     """basket"""
                    927:     
                    928:     meta_type="CDLIBasket"
1.5       dwinter   929:     default_catalog="CDLIBasketCatalog"
1.4       dwinter   930:     
1.75      dwinter   931:     def searchInBasket(self,indexName,searchStr,regExp=False):
                    932:         """searchInBasket"""
                    933: 
1.80.2.2  casties   934:         lst=self.searchInLineIndexDocs(indexName,searchStr,uniq=True,regExp=regExp) #TODO: fix this
1.75      dwinter   935:         ret={}
                    936:         
                    937:         lv=self.getLastVersion()
1.76      dwinter   938: 
                    939: 
1.75      dwinter   940:         for obj in lv.content.getContent():
                    941:             id=obj[1].getId().split(".")[0]
                    942:             if id in lst:
                    943:         
                    944:                 ret[id]=self.showWordInFile(id,searchStr,lineList=self.getLinesFromIndex(indexName,searchStr,id,regExp=regExp),regExp=regExp,indexName=indexName)
                    945:         
                    946:         
                    947:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','searchResultsInBasket')).__of__(self)
                    948:         return pt(result=ret,indexName=indexName,regExp=regExp,word=searchStr)
                    949:         
                    950:          
                    951:  
                    952:         
                    953:     def searchInBasket_v1(self,searchStr):
1.74      dwinter   954:         """search occurences of searchStr in files im basket"""
                    955:         ret=[]
                    956:         lv=self.getLastVersion()
                    957:         logging.info("searching")
                    958:         for obj in lv.content.getContent():
                    959:             txt=obj[0].getData()
                    960:             for x in txt.split("\n"):
                    961:                 logging.info("search %s"%x)
                    962:                 if re.match(searchStr,x):
                    963:                     ret.append(x)
                    964:         
                    965:         return "\n".join(ret)
                    966:                 
                    967:             
1.4       dwinter   968:     def getFile(self,obj):
                    969:         return obj[1]
                    970:     
                    971:     def getFileLastVersion(self,obj):
                    972:         return obj[0]
                    973:     
1.5       dwinter   974:     def getFileNamesInLastVersion(self):
                    975:         """get content of the last version as list"""
                    976:         
                    977:         return [x[1].getId() for x in self.getLastVersion().getContent()]
                    978:     
1.37      dwinter   979: 
1.4       dwinter   980:     def isActual(self,obj):
                    981:         """teste ob im basket die aktuelle version ist"""
                    982:         actualNo=obj[1].getLastVersion().getVersionNumber()
                    983:         storedNo=obj[0].getVersionNumber()
1.12      dwinter   984:         
                    985:         founds=self.CDLICatalog.search({'title':obj[0].getId()})
1.37      dwinter   986:         if len(founds)>0:
                    987:             actualNo=founds[0].getObject().getLastVersion().getVersionNumber()
                    988:             
1.12      dwinter   989:         if len(founds)>0 and founds[0].getObject().aq_parent.getId()==".trash":
                    990:             return False, -1
                    991:         
1.4       dwinter   992:         if actualNo==storedNo:
1.12      dwinter   993:             return True , 0
1.4       dwinter   994:         else:
1.12      dwinter   995:             return False, actualNo
1.4       dwinter   996:         
                    997:     def history(self):
                    998:         """history"""  
                    999: 
                   1000:         ext=self.ZopeFind(self.aq_parent,obj_ids=["history_template.html"])
                   1001:         if ext:
                   1002:             return getattr(self,ext[0][1].getId())()
                   1003:         
                   1004:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','BasketHistory')).__of__(self)
                   1005:         return pt()
                   1006:     
                   1007:     def getStorageFolderRoot(self):
                   1008:         """root des storage folders"""
                   1009:         return self.aq_parent.cdli_main
                   1010:     
                   1011:     def __init__(self,id,title,shortDescription="",comment=""):
                   1012:         """init a CDLIBasket"""
                   1013:         
                   1014:         self.id=id
                   1015:         self.title=title
                   1016:         self.shortDescription=shortDescription
                   1017:         self.comment=comment
                   1018:  
1.72      dwinter  1019:     def getActualUserName(self):
                   1020:         """get name of the actualuser"""
                   1021:        
                   1022:         return str(self.REQUEST['AUTHENTICATED_USER'])
                   1023:   
1.4       dwinter  1024:            
                   1025:     def getLastVersion(self):
                   1026:         """hole letzte version"""
1.39      dwinter  1027: 
                   1028:         ids=[]
                   1029:         idsTmp= self.objectIds()
                   1030:         for x in idsTmp:
                   1031:             try:
                   1032:                 ids.append(int(x))
                   1033:             except:
                   1034:                 pass
1.4       dwinter  1035:         ids.sort()
1.39      dwinter  1036:       
1.4       dwinter  1037:         if len(ids)==0:
                   1038:             return None
                   1039:         else:    
                   1040:             ob=getattr(self,str(ids[-1]))
1.39      dwinter  1041: 
                   1042:             
1.4       dwinter  1043:             return ob
                   1044:    
                   1045:     def getVersions(self):
                   1046:         """get versions"""
                   1047:         versions=self.ZopeFind(self,obj_metatypes=["CDLIBasketVersion"])
                   1048:         return versions
                   1049: 
                   1050:    
1.37      dwinter  1051:     def updateObjects(self,ids,RESPONSE=None,REQUEST=None):
                   1052:         """update ids, ids not in the basket the add"""
                   1053:         if type(ids) is not ListType:
                   1054:             ids=[ids]
                   1055:        
                   1056:         lastVersion=self.getLastVersion() 
1.39      dwinter  1057:         oldContent=lastVersion.content.getContent()
1.37      dwinter  1058:         newContent=[]
                   1059:         
                   1060:         #first copy the old
                   1061:         for obj in oldContent:
                   1062:             if obj[1].getId() not in ids:
                   1063:                 newContent.append(obj)
                   1064:         #now add the new
                   1065:                
                   1066:         for id in ids:
                   1067:             founds=self.CDLICatalog.search({'title':id})
                   1068: 
                   1069:             for found in founds:
                   1070:                 if found.getObject() not in oldContent:
                   1071:                     #TODO: was passiert wenn, man eine Object dazufŸgt, das schon da ist aber eine neuere version
                   1072:                     newContent.append((found.getObject().getLastVersion(),found.getObject()))
                   1073:         
                   1074: 
                   1075:         content=newContent 
                   1076:         user=self.getActualUserName()
                   1077:         
                   1078:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=newContent)
                   1079:         
1.38      dwinter  1080:         obj=self._getOb(ob.getId())
1.37      dwinter  1081:         if RESPONSE:
1.38      dwinter  1082:            
1.37      dwinter  1083:             RESPONSE.redirect(obj.absolute_url())
1.38      dwinter  1084:         
                   1085:         return obj
                   1086:     
1.72      dwinter  1087:     def addObjectsWithVersion(self,ids,deleteOld=None,username=None,catalog=None):
                   1088:         """generate a new version of the basket with objects added, 
                   1089:         hier wird jedoch nicht die letzte Version jedes Files hinzugefuegt, s
                   1090:         ondern ids is ein Tupel mit der Id (d.h. der p-number) und der Versionsnummer.
                   1091:         """
                   1092:         logging.info("add to basket (%s)"%(self.getId()))
                   1093:         lastVersion=self.getLastVersion()
                   1094:         
                   1095:         if not catalog:
                   1096:             catalog=self.CDLICatalog
                   1097:             
                   1098:         if lastVersion is None:
                   1099:             oldContent=[]
                   1100:         else:
                   1101:             oldContent=lastVersion.content.getContent()
                   1102: 
                   1103:         if deleteOld:
                   1104:             oldContent=[]
                   1105: 
                   1106:         newContent=[]
                   1107:         added=0
                   1108:        
                   1109:         for id,version in ids.iteritems():
                   1110:             logging.info("adding %s %s"%(id,version))
                   1111:             id=id.split(".")[0] # title nur die pnumber ohne atf
                   1112:            
                   1113:             try:
                   1114:                 founds=catalog.search({'title':id})
                   1115:             except:
                   1116:                 founds=[]
                   1117:             logging.info(" found %s "%(founds))
                   1118:             for found in founds:
                   1119:                 if found.getObject() not in oldContent:
                   1120:                  
                   1121:                     #TODO: was passiert wenn, man eine Object dazufŸgt, das schon da ist aber eine neuere version
                   1122:                     newContent.append((found.getObject().getVersions()[version-1][1],found.getObject()))
                   1123:                     added+=1
                   1124: 
                   1125:         content=oldContent+newContent
                   1126:         if not username:
                   1127:             logging.error("XXXXXXXXXXX %s"%repr(self))
                   1128:             user=self.getActualUserName()
                   1129:         else:
                   1130:             user = username
                   1131:             
                   1132:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=content)
                   1133:         logging.info("add to basket (%s) done"%(self.getId()))
                   1134:         return added
                   1135:     
                   1136:     
1.19      dwinter  1137:     def addObjects(self,ids,deleteOld=None,username=None):
1.4       dwinter  1138:         """generate a new version of the basket with objects added"""
1.65      dwinter  1139:         logging.info("add to basket (%s)"%(self.getId()))
1.4       dwinter  1140:         lastVersion=self.getLastVersion()
                   1141:         
                   1142:         if lastVersion is None:
                   1143:             oldContent=[]
                   1144:         else:
1.39      dwinter  1145:             oldContent=lastVersion.content.getContent()
1.4       dwinter  1146: 
                   1147:         if deleteOld:
                   1148:             oldContent=[]
                   1149: 
                   1150:         newContent=[]
1.6       dwinter  1151:         added=0
1.4       dwinter  1152:         for id in ids:
1.65      dwinter  1153:             try:
                   1154:                 founds=self.CDLICatalog.search({'title':id})
                   1155:             except:
                   1156:                 founds=[]
                   1157:            
1.4       dwinter  1158:             for found in founds:
                   1159:                 if found.getObject() not in oldContent:
                   1160:                     #TODO: was passiert wenn, man eine Object dazufŸgt, das schon da ist aber eine neuere version
                   1161:                     newContent.append((found.getObject().getLastVersion(),found.getObject()))
1.6       dwinter  1162:                     added+=1
1.4       dwinter  1163: 
                   1164:         content=oldContent+newContent
1.19      dwinter  1165:         if not username:
                   1166:             user=self.getActualUserName()
                   1167:         else:
                   1168:             user = username
                   1169:             
1.4       dwinter  1170:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=content)
1.65      dwinter  1171:         logging.info("add to basket (%s) done"%(self.getId()))
1.6       dwinter  1172:         return added
1.4       dwinter  1173:     
1.51      dwinter  1174:     
                   1175:                 
1.72      dwinter  1176:     def getContent(self):
                   1177:         """print content"""
                   1178:         ret=[]
                   1179:         
                   1180:         lv=self.getLastVersion()
                   1181:         for obj in lv.content.getContent():
                   1182:             logging.info("XXXXXXXXXX %s"%repr(obj))
                   1183:             ret.append((obj[1].getId(),obj[0].versionNumber))
                   1184:             
                   1185:         return ret
                   1186:         
1.49      dwinter  1187:     def getContentIds(self):
                   1188:         """print basket content"""
                   1189:         ret=[]
                   1190:         lv=self.getLastVersion()
1.51      dwinter  1191:         for obj in lv.content.getContent():
1.49      dwinter  1192:             ret.append((obj[0].getId(),obj[1].getId()))
                   1193:         
                   1194:         
                   1195:         return lv.getComment(),lv.getUser(),lv.getTime(),ret
                   1196: 
1.37      dwinter  1197:     def changeBasket(self,ids,submit,RESPONSE=None,REQUEST=None):
                   1198:         """change a basket"""
                   1199:         if submit=="update":
                   1200:             return self.updateObjects(ids,RESPONSE=RESPONSE,REQUEST=REQUEST)
                   1201:         elif submit=="delete":
                   1202:             return self.deleteObjects(ids,RESPONSE=RESPONSE,REQUEST=REQUEST)
                   1203:             
1.12      dwinter  1204:     def deleteObjects(self,ids,RESPONSE=None,REQUEST=None):
1.4       dwinter  1205:         """delete objects"""
1.12      dwinter  1206:         
                   1207:         if type(ids) is not ListType:
                   1208:             ids=[ids]
                   1209:        
                   1210:         lastVersion=self.getLastVersion() 
1.39      dwinter  1211:         oldContent=lastVersion.content.getContent()
1.12      dwinter  1212:         newContent=[]
                   1213:         for obj in oldContent:
                   1214:             if obj[1].getId() not in ids:
                   1215:                 newContent.append(obj)
                   1216:         
                   1217:                 
                   1218:         user=self.getActualUserName()
                   1219:         
                   1220:         ob=manage_addCDLIBasketVersion(self,user,comment="",basketContent=newContent)
                   1221:         
                   1222:         if RESPONSE:
                   1223:             obj=self._getOb(ob.getId())
                   1224:             RESPONSE.redirect(obj.absolute_url())
1.4       dwinter  1225:         
                   1226: def manage_addCDLIBasketForm(self):
                   1227:     """add the CDLIBasketContainer form"""
                   1228:     pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','addCDLIBasket.zpt')).__of__(self)
                   1229:     return pt()
                   1230: 
                   1231: def manage_addCDLIBasket(self,title,shortDescription="",comment="",RESPONSE=None):
                   1232:     """add the basket"""
                   1233:     
                   1234:     id=str(self.getNewId())
                   1235:     
                   1236:     ob=CDLIBasket(id,title,shortDescription,comment)
                   1237:     
                   1238:     self._setObject(id, ob)
                   1239:     
                   1240:     if RESPONSE is not None:
                   1241:         RESPONSE.redirect('manage_main')
                   1242:     else:
                   1243:         return ob
                   1244: 
1.39      dwinter  1245: class CDLIBasketVersion(Implicit,Persistent,Folder):
1.4       dwinter  1246:     """version of a basket"""
                   1247:     
                   1248:     meta_type="CDLIBasketVersion"
1.32      dwinter  1249:     security=ClassSecurityInfo()
1.4       dwinter  1250:     
1.39      dwinter  1251:     def updateBasket(self):
                   1252:         """update"""
                   1253:         try:
                   1254:             self._setObject('content',BasketContent(self.basketContent))
                   1255:         except:
                   1256:             try:
                   1257:                 if len(self.basketContent)>0:
                   1258:                     self.content.setContent(self.basketContent)
                   1259:             except:
                   1260:                 print "error",self.getId(),self.aq_parent.getId()
                   1261:         self.basketContent=[]
                   1262: 
                   1263:         
1.37      dwinter  1264:     def containsNonActualFiles(self):
                   1265:         """returns True if basket contains one or more non current files"""
                   1266:         
                   1267:         objs=self.getContent()
                   1268:         for obj in objs:
                   1269:             if not self.isActual(obj)[0]:
                   1270:                 return True
                   1271:         return False
                   1272:     
1.72      dwinter  1273:     def downloadListOfPnumbers(self):
                   1274:         """download pnumbers of the basket as list"""
                   1275:         
                   1276:         basket_name=self.aq_parent.title
                   1277:         
                   1278:         ids=self.getContent() # get the list of objects
                   1279:         logging.error(ids)
                   1280:         ret="\n".join([x[1].getId().split(".")[0] for x in ids])
                   1281:         
                   1282:         self.REQUEST.RESPONSE.setHeader("Content-Disposition","""attachement; filename="%s.txt" """%basket_name)
                   1283:         self.REQUEST.RESPONSE.setHeader("Content-Type","application/octet-stream")
                   1284:         length=len(ret)
                   1285:         self.REQUEST.RESPONSE.setHeader("Content-Length",length)
                   1286:         self.REQUEST.RESPONSE.write(ret)    
                   1287:         
1.77      dwinter  1288:     security.declareProtected('manage','downloadObjectsAsOneFile')
1.37      dwinter  1289:     def downloadObjectsAsOneFile(self,lock=None,procedure=None,REQUEST=None,check="yes",current="no"):
1.4       dwinter  1290:         """download all selected files in one file"""
1.46      dwinter  1291:         
                   1292:         if self.temp_folder.downloadCounterBaskets > 10000:
                   1293:             return """I am sorry, currently the server has to many requests for downloads, please come back later!"""
1.45      dwinter  1294: 
                   1295: 
1.37      dwinter  1296:         if (check=="yes") and self.containsNonActualFiles():
                   1297:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','downloadObjectAsOneFile_check.zpt')).__of__(self)
1.46      dwinter  1298:             
1.37      dwinter  1299:             return pt(lock=lock)
                   1300:             
1.46      dwinter  1301:         else:
                   1302:             
                   1303:             return self.downloadObjectsAsOneFileFinally(lock=lock,procedure=procedure,REQUEST=REQUEST,current="no")
                   1304:         
1.45      dwinter  1305:     def downloadObjectsAsOneFileFinally(self,lock=None,procedure=None,REQUEST=None,current="no"):
1.46      dwinter  1306:         """print do the download"""
1.45      dwinter  1307: 
1.46      dwinter  1308:         ret=""
1.4       dwinter  1309:         lockedObjects={}
                   1310: 
1.46      dwinter  1311:         self.temp_folder.downloadCounterBaskets+=1 
                   1312:         self._p_changed=1
1.59      dwinter  1313:         transaction.get().commit()       
1.45      dwinter  1314:     
1.4       dwinter  1315:         if lock:
                   1316:             
                   1317:             if str(self.REQUEST['AUTHENTICATED_USER'])=='Anonymous User':
1.46      dwinter  1318:                 self.temp_folder.downloadCounterBaskets-=1 
                   1319:                 self._p_changed=1
1.58      dwinter  1320:                 transaction.get().commit()      
1.46      dwinter  1321:                 self.temp_folder.downloadCounterBaskets-=1 
                   1322:                 self._p_changed=1
1.58      dwinter  1323:                 transaction.get().commit()      
1.4       dwinter  1324:                 return "please login first"
                   1325: 
                   1326:             #check if a locked object exist in the basket.
                   1327:             lockedObjects={}
1.39      dwinter  1328:             for object in self.content.getContent():
1.4       dwinter  1329: 
1.63      dwinter  1330:                 if (not str(object[1].lockedBy)=="") and (not (str(object[1].lockedBy)==str(self.REQUEST['AUTHENTICATED_USER']))):
1.4       dwinter  1331:                     lockedObjects[object[1].title]=repr(object[1].lockedBy)
                   1332:                    
                   1333:                     
                   1334:             keys=lockedObjects.keys()
                   1335:             
                   1336:             
                   1337:             if len(keys)>0 and (not procedure):
                   1338:                 self.REQUEST.SESSION['lockedObjects']=lockedObjects
                   1339:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','lockedObjects.zpt')).__of__(self)
1.45      dwinter  1340:                 
1.46      dwinter  1341:                 self.temp_folder.downloadCounterBaskets-=1 
                   1342:                 self._p_changed=1
1.58      dwinter  1343:                 transaction.get().commit()      
1.45      dwinter  1344: 
1.46      dwinter  1345:                 return pt()
1.4       dwinter  1346:          
                   1347:             elif not procedure: #keine fails gesperrt dann alle donwloaden
                   1348:                 procedure="downloadAll" 
                   1349:         
1.46      dwinter  1350:         
1.45      dwinter  1351: 
1.4       dwinter  1352: 
1.39      dwinter  1353:         for object in self.content.getContent():
1.45      dwinter  1354:     
1.4       dwinter  1355:                 if (procedure=="downloadAll") or (object[1].lockedBy=='') or (object[1].lockedBy==self.REQUEST['AUTHENTICATED_USER']):
1.37      dwinter  1356:                     if current=="no": #version as they are in the basket
1.49      dwinter  1357:                         ret+=str(object[0].getData())+"\n"
1.37      dwinter  1358:                     elif current=="yes":
                   1359:                         #search current object
1.73      dwinter  1360:                         founds=self.CDLICatalog.search({'title':object[1].getId().split(".")[0]})
1.37      dwinter  1361:                         if len(founds)>0:      
1.49      dwinter  1362:                             ret+=str(founds[0].getObject().getLastVersion().getData())+"\n"
1.37      dwinter  1363:                             
1.4       dwinter  1364:                 if lock and object[1].lockedBy=='':
                   1365:                     object[1].lockedBy=self.REQUEST['AUTHENTICATED_USER']
                   1366:         basket_name=self.aq_parent.title+"_V"+self.getId()
                   1367:         
                   1368:         #write basketname to header of atf file
1.45      dwinter  1369:         ret="#basket: %s\n"%basket_name+ret
                   1370: 
1.46      dwinter  1371:         self.temp_folder.downloadCounterBaskets-=1 
                   1372:         self._p_changed=1
1.58      dwinter  1373:         transaction.get().commit()      
1.4       dwinter  1374:         
                   1375:         self.REQUEST.RESPONSE.setHeader("Content-Disposition","""attachement; filename="%s.atf" """%basket_name)
                   1376:         self.REQUEST.RESPONSE.setHeader("Content-Type","application/octet-stream")
                   1377:         length=len(ret)
                   1378:         self.REQUEST.RESPONSE.setHeader("Content-Length",length)
                   1379:         self.REQUEST.RESPONSE.write(ret)    
1.46      dwinter  1380:         return True
1.4       dwinter  1381:         
                   1382:     def numberOfItems(self):
                   1383:         """return anzahl der elemente im basket"""
1.39      dwinter  1384:         return self.content.numberOfItems()
1.4       dwinter  1385:     
                   1386:     def getTime(self):
                   1387:         """getTime"""
                   1388:         #return self.bobobase_modification_time().ISO()
                   1389:       
                   1390:         if hasattr(self,'time'):
                   1391:             return time.strftime("%Y-%m-%d %H:%M:%S",self.time)
                   1392:         elif hasattr(self,'timefixed'):
                   1393:             return self.timefixed
                   1394:         else:
                   1395:             setattr(self,'timefixed',self.bobobase_modification_time().ISO())
                   1396:             return self.bobobase_modification_time().ISO()
                   1397:     
                   1398:     def getContent(self):
                   1399:         """get Basket Content"""
1.39      dwinter  1400:         return self.content.getContent()
1.4       dwinter  1401: 
                   1402:     
                   1403:     def __init__(self,id,user,comment="",basketContent=[]):
                   1404:         """ init a basket version"""
                   1405:         self.id=id
1.74      dwinter  1406:         self.comment=comment
1.39      dwinter  1407:         self._setObject('content',BasketContent(basketContent))
                   1408:         #self.basketContent=basketContent[0:]a
1.4       dwinter  1409:         self.user=user
                   1410:         self.time=time.localtime()
                   1411:         
                   1412:     def getUser(self):
                   1413:         """get user"""
                   1414:         return self.user
                   1415:     
                   1416:     def getComment(self):
                   1417:         """get Comment"""
                   1418:         return self.comment
                   1419:  
1.77      dwinter  1420:     security.declareProtected('manage','index_html')
1.4       dwinter  1421:     def index_html(self):
                   1422:             """view the basket"""
1.37      dwinter  1423: 
                   1424:             if self.REQUEST.get('change',False):
1.38      dwinter  1425:                     ob=self.aq_parent.updateObjects(self.REQUEST['change'])
                   1426:                    
                   1427:                     self.REQUEST.RESPONSE.redirect(ob.absolute_url())#go to new basket, because changing generates a new basket
1.37      dwinter  1428:                                         
1.4       dwinter  1429:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','BasketVersionMain.zpt')).__of__(self)
                   1430:             return pt()
                   1431:      
                   1432:     def getObjUrl(self,result):
                   1433:         """getUrl of the version of the object"""
                   1434:         objId=result[1].getTitle()
                   1435:         founds=self.CDLICatalog.search({'title':objId})
                   1436:         if len(founds)>0:
1.12      dwinter  1437:              return founds[0].getObject().getLastVersion().absolute_url()
1.4       dwinter  1438:          
                   1439:         else: #assume version number
                   1440:             splitted=objId.split("_")
1.9       dwinter  1441:             founds=self.CDLICatalog.search({'title':splitted[1]})        
1.12      dwinter  1442:             return founds[0].getObject().getLastVersion().absolute_url()+'/'+objId
1.4       dwinter  1443:    
                   1444: def manage_addCDLIBasketVersion(self,user,comment="",basketContent=[],RESPONSE=None):
                   1445:     """add a version"""
                   1446:     
                   1447:     #check for already existing versions
                   1448:  
                   1449:     lastVersion=self.getLastVersion()
                   1450:     if lastVersion is None:
                   1451:         newId=str(1)
                   1452:     else:
                   1453:         newId=str(int(lastVersion.getId())+1)
                   1454:     
                   1455:     ob=CDLIBasketVersion(newId,user,comment,basketContent)
                   1456:     
                   1457:     self._setObject(newId, ob)
                   1458:     
                   1459:     if RESPONSE is not None:
                   1460:         RESPONSE.redirect('manage_main')
                   1461:     else:
                   1462:         return ob
                   1463:     
1.46      dwinter  1464: class CDLIFileObject(CatalogAware,extVersionedFileObject):
1.1       dwinter  1465:     """CDLI file object"""
                   1466:     
                   1467:     meta_type="CDLI File Object"
1.25      dwinter  1468:     default_catalog='CDLIObjectsCatalog'
1.1       dwinter  1469:     
1.12      dwinter  1470:     security=ClassSecurityInfo()
                   1471:     
1.78      dwinter  1472:     security.declareProtected('manage','index_html')
1.80.2.1  casties  1473: 
1.28      dwinter  1474:     def PrincipiaSearchSource(self):
                   1475:            """Return cataloguable key for ourselves."""
                   1476:            return str(self)
                   1477:        
1.26      dwinter  1478:     def makeThisVersionCurrent_html(self):
                   1479:         """form for making this version current"""
                   1480:         
                   1481:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','makeThisVersionCurrent.zpt')).__of__(self)
                   1482:         return pt()                 
1.80.2.1  casties  1483: 
                   1484:     security.declarePublic('makeThisVersionCurrent')
1.27      dwinter  1485:     def makeThisVersionCurrent(self,comment,author,RESPONSE=None):
1.26      dwinter  1486:         """copy this version to current"""
                   1487:         parent=self.aq_parent
                   1488:         newversion=parent.manage_addCDLIFileObject('',comment,author)
1.64      dwinter  1489:         newversion.manage_upload(self.getData())
1.27      dwinter  1490:                                         
                   1491:         if RESPONSE is not None:
                   1492:             RESPONSE.redirect(self.aq_parent.absolute_url()+'/history')
                   1493: 
1.26      dwinter  1494:         return True
                   1495:     
1.52      dwinter  1496:     def getFormattedData(self):
                   1497:         """fromat text"""
                   1498:         data=self.getData()
1.70      dwinter  1499: #        return re.sub("\s\#lem"," #lem",data) #remove return vor #lem
                   1500:         return re.sub("#lem","       #lem",data) #remove return vor #lem
1.52      dwinter  1501:         
1.80.2.1  casties  1502:     security.declarePublic('view')
1.1       dwinter  1503:     def view(self):
                   1504:         """view file"""
                   1505:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','viewCDLIFile.zpt')).__of__(self)
                   1506:         return pt()
                   1507:     
1.40      dwinter  1508:     security.declarePublic('getPNumber')
                   1509:     def getPNumber(self):
1.46      dwinter  1510:         """get the pnumber"""
                   1511:         try:
1.49      dwinter  1512:                 txt=re.match("&[Pp](\d*)\s*=([^\r\n]*)",self.getData()[0:])
1.40      dwinter  1513:         except:
1.49      dwinter  1514:                 txt=self.getData()[0:]
1.40      dwinter  1515:                 
                   1516:                 return "ERROR"
                   1517:         try:
                   1518:             return "P"+txt.group(1)
                   1519:         except:
                   1520:             return "ERROR"
                   1521: 
1.12      dwinter  1522:     security.declarePublic('getDesignation')
                   1523:     def getDesignation(self):
                   1524:         """get the designation out of the file"""
1.16      dwinter  1525:         try:
1.46      dwinter  1526:                 txt=re.match("&[Pp](\d*)\s*=([^\r\n]*)",self.getData()[0:])
1.13      dwinter  1527:         except:
1.46      dwinter  1528:                 txt=self.getData()[0:]
1.16      dwinter  1529:                 
                   1530:                 return "ERROR"
1.12      dwinter  1531:         try:
                   1532:             return txt.group(2)
                   1533:         except:
                   1534:             return "ERROR"
                   1535:         
1.1       dwinter  1536: manage_addCDLIFileObjectForm=DTMLFile('dtml/fileAdd', globals(),Kind='CDLIFileObject',kind='CDLIFileObject', version='1')
                   1537: 
1.80.2.1  casties  1538: def manage_addCDLIFileObject(self,id,vC='',author='', file='',title='',versionNumber=0,
                   1539:                              precondition='', content_type='',
1.48      dwinter  1540:                              from_tmp=False,REQUEST=None):
1.1       dwinter  1541:     """Add a new File object.
                   1542:     Creates a new File object 'id' with the contents of 'file'"""
1.48      dwinter  1543:  
1.1       dwinter  1544:     id=str(id)
                   1545:     title=str(title)
                   1546:     content_type=str(content_type)
                   1547:     precondition=str(precondition)
                   1548:     
                   1549:     id, title = cookId(id, title, file)
                   1550: 
                   1551:     self=self.this()
                   1552: 
                   1553:     # First, we create the file without data:
1.80.2.1  casties  1554:     self._setObject(id, CDLIFileObject(id,title,versionNumber=versionNumber,versionComment=vC,time=time.localtime(),author=author))
1.80      casties  1555:     fob = self._getOb(id)
1.45      dwinter  1556:     
1.1       dwinter  1557:     # Now we "upload" the data.  By doing this in two steps, we
                   1558:     # can use a database trick to make the upload more efficient.
1.48      dwinter  1559: 
                   1560:     if file and not from_tmp:
1.80      casties  1561:         fob.manage_upload(file)
1.48      dwinter  1562:     elif file and from_tmp:
1.80.2.1  casties  1563:         fob.manage_file_upload(file) # manage_upload_from_tmp doesn't exist in ExtFile2
                   1564:     #    fob.manage_upload_from_tmp(file) # manage_upload_from_tmp doesn't exist in ExtFile2
1.1       dwinter  1565:     if content_type:
1.80      casties  1566:         fob.content_type=content_type
1.1       dwinter  1567: 
1.80.2.1  casties  1568:     logging.debug("manage_add: lastversion=%s"%self.getData())
                   1569:     logging.debug("reindex1: %s in %s"%(repr(self),repr(self.default_catalog)))
1.45      dwinter  1570:     self.reindex_object()
1.80.2.1  casties  1571:     logging.debug("manage_add: fob_data=%s"%fob.getData())
1.80      casties  1572:     logging.debug("reindex2: %s in %s"%(repr(fob), repr(fob.default_catalog)))
1.80.2.1  casties  1573:     fob.index_object()
1.49      dwinter  1574: 
1.1       dwinter  1575:     if REQUEST is not None:
                   1576:         REQUEST['RESPONSE'].redirect(self.absolute_url()+'/manage_main')
1.3       dwinter  1577:     
1.80      casties  1578: 
1.46      dwinter  1579: class CDLIFile(extVersionedFile,CatalogAware):
1.3       dwinter  1580:     """CDLI file"""
                   1581:     
1.77      dwinter  1582:     security=ClassSecurityInfo()
1.3       dwinter  1583:     meta_type="CDLI file"
1.80.2.1  casties  1584:     content_meta_type = ["CDLI File Object"]
                   1585:     
1.3       dwinter  1586:     default_catalog='CDLICatalog'
1.78      dwinter  1587:     security.declareProtected('manage','index_html')
1.80.2.1  casties  1588:     
1.51      dwinter  1589:     def getLastVersionData(self):
                   1590:         """get last version data"""
1.80.2.1  casties  1591:         return self.getData()
1.51      dwinter  1592: 
1.52      dwinter  1593:     def getLastVersionFormattedData(self):
                   1594:         """get last version data"""
1.80.2.1  casties  1595:         return self.getContentObject().getFormattedData()
1.52      dwinter  1596: 
1.51      dwinter  1597:     #security.declarePublic('history')
1.26      dwinter  1598:     def history(self):
                   1599:         """history"""  
                   1600: 
                   1601:         ext=self.ZopeFind(self.aq_parent,obj_ids=["history_template.html"])
                   1602:         if ext:
                   1603:             return getattr(self,ext[0][1].getId())()
                   1604:         
                   1605:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','versionHistory')).__of__(self)
                   1606:         return pt()
                   1607: 
                   1608: 
1.44      dwinter  1609:     def getBasketFromId(self,basketid, context=None):
                   1610:         """get basket from id"""
                   1611: 
                   1612:         if not context:
                   1613:             context=self
                   1614:             
                   1615:         for basket in self.ZopeFind(context,obj_metatypes=["CDLIBasket"]):
                   1616:             if basket[0]==basketid:
                   1617:                 return basket[1]
                   1618:         else:
                   1619:             None
                   1620: 
1.12      dwinter  1621:  
1.8       dwinter  1622:     def isContainedInBaskets(self,context=None):
                   1623:         """check is this file is part of any basket
                   1624:         @param context: (optional) necessessary if CDLIBasketCatalog is not an (inherited) attribute of self, context.CDLIBasketCatalog
                   1625:                         has to exist.
                   1626:         """
                   1627: 
                   1628:         if not context:
                   1629:             context=self
1.12      dwinter  1630:         
                   1631:         ret=[]
                   1632:         for x in context.CDLIBasketCatalog.search({'getFileNamesInLastVersion':self.getId()}):
                   1633:             #if the basket x is deleted it seemes to be that x is sometimes still in the Catalog, why?
                   1634:             try:
                   1635:                 ret.append(x.getObject())
                   1636:             except:
                   1637:                 pass
                   1638:         return ret
                   1639:         #return [x.getObject() for x in context.CDLIBasketCatalog.search({'getFileNamesInLastVersion':self.getId()})]
1.5       dwinter  1640:         
                   1641:         
1.80.2.1  casties  1642:     def _newContentObject(self, id, title='', versionNumber=0, versionComment=None, time=None, author=None):
                   1643:         """factory for content objects. to be overridden in derived classes."""
                   1644:         return CDLIFileObject(id,title,versionNumber=versionNumber,versionComment=versionComment,time=time,author=author)
                   1645: 
                   1646: 
1.5       dwinter  1647:     def addCDLIFileObjectForm(self):
                   1648:         """add a new version"""
                   1649:         
                   1650:         if str(self.REQUEST['AUTHENTICATED_USER']) in ["Anonymous User"]:
                   1651:             return "please login first"
                   1652:         if (self.lockedBy==self.REQUEST['AUTHENTICATED_USER']) or (self.lockedBy==''):
                   1653:             out=DTMLFile('dtml/fileAdd', globals(),Kind='CDLIFileObject',kind='CDLIFileObject',version=self.getVersion()).__of__(self)
                   1654:             return out()
                   1655:         else:
                   1656:             return "Sorry file is locked by somebody else"
                   1657:         
1.37      dwinter  1658:     def manage_addCDLIFileObject(self,id,vC,author,
                   1659:                                  file='',title='',
                   1660:                                  precondition='', 
                   1661:                                  content_type='',
                   1662:                                  changeName='no',newName='', 
1.48      dwinter  1663:                                  come_from=None,
                   1664:                                  from_tmp=False,RESPONSE=None):
1.3       dwinter  1665:         """add"""
1.48      dwinter  1666:       
1.3       dwinter  1667:         try: #TODO: der ganze vC unsinn muss ueberarbeitet werden
                   1668:             vC=self.REQUEST['vC']
                   1669:         except:
                   1670:             pass
                   1671:         
1.80.2.1  casties  1672:         ob = self.addContentObject(id, vC, author, file, title, changeName=changeName, newName=newName, from_tmp=from_tmp,
                   1673:                                    precondition=precondition, content_type=content_type)
1.3       dwinter  1674: 
1.22      dwinter  1675:         try:
1.80.2.1  casties  1676:             #FIXME: wozu ist das gut?
                   1677:             self.REQUEST.SESSION['objID_parent']=self.getId()
1.22      dwinter  1678:         except:
1.80.2.1  casties  1679:             pass
1.37      dwinter  1680:   
1.3       dwinter  1681:         if RESPONSE:
1.80.2.1  casties  1682:             if ob.getSize()==0:
                   1683:                 self.REQUEST.SESSION['objID']=ob.getId()
1.3       dwinter  1684:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','errorUploadFile')).__of__(self)
                   1685:                 return pt()
                   1686:             else:
1.37      dwinter  1687:                 if come_from and (come_from!=""):
1.80.2.1  casties  1688:                     RESPONSE.redirect(come_from+"?change="+self.getId())
1.37      dwinter  1689:                 else:
                   1690:                     RESPONSE.redirect(self.REQUEST['URL2']+'?uploaded=%s'%self.title)
1.3       dwinter  1691:         else:
1.80.2.1  casties  1692:             return ob
1.3       dwinter  1693:         
                   1694:         
                   1695: def manage_addCDLIFileForm(self):
                   1696:     """interface for adding the OSAS_root"""
                   1697:     pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','addCDLIFile.zpt')).__of__(self)
                   1698:     return pt()
                   1699: 
                   1700: def manage_addCDLIFile(self,id,title,lockedBy, author=None, RESPONSE=None):
                   1701:     """add the OSAS_root"""
                   1702:     newObj=CDLIFile(id,title,lockedBy,author)
1.22      dwinter  1703:                                         
                   1704:     tryToggle=True
                   1705:     tryCount=0
                   1706: 
                   1707:     self._setObject(id,newObj)                  
1.45      dwinter  1708:     getattr(self,id).reindex_object()
1.22      dwinter  1709:         
1.3       dwinter  1710:     if RESPONSE is not None:
                   1711:         RESPONSE.redirect('manage_main')
                   1712: 
1.69      dwinter  1713: def checkUTF8(data):
                   1714:     """check utf 8"""
                   1715:     try:
                   1716:         data.encode('utf-8')
                   1717:         return True
                   1718:     except:
                   1719:         return False
                   1720:     
1.1       dwinter  1721: 
1.45      dwinter  1722: def checkFile(filename,data,folder):
                   1723:     """check the files"""
                   1724:     # first check the file name
                   1725:     fn=filename.split(".") # no extension
1.48      dwinter  1726: 
1.45      dwinter  1727:     if not fn[0][0]=="P":
1.46      dwinter  1728:         return False,"P missing in the filename"
1.45      dwinter  1729:     elif len(fn[0])!=7:
1.46      dwinter  1730:         return False,"P number has not the right length 6"
1.69      dwinter  1731:     elif not checkUTF8(data):
                   1732:         return False,"not utf-8"
1.45      dwinter  1733:     else:
1.69      dwinter  1734:         return True,""
                   1735:     
1.45      dwinter  1736:     
1.25      dwinter  1737: def splitatf(fh,dir=None,ext=None):
1.2       dwinter  1738:     """split it"""
1.4       dwinter  1739:     ret=None
1.2       dwinter  1740:     nf=None
1.25      dwinter  1741:     i=0
1.49      dwinter  1742: 
1.73      dwinter  1743:     if (type(fh) is StringType) or (type(fh) is UnicodeType):
                   1744:         iter=fh.split("\n")
                   1745:     else:
                   1746:         iter=fh.readlines()
                   1747:         
                   1748:     for lineTmp in iter:
1.66      dwinter  1749:         lineTmp=lineTmp.replace(codecs.BOM_UTF8,'') # make sure that all BOM are removed..
                   1750:         for line in lineTmp.split("\r"):
                   1751:             #logging.log("Deal with: %s"%line)
                   1752:             if ext:
                   1753:                 i+=1
                   1754:                 if (i%100)==0:
                   1755:                     ext.result+="."
                   1756:                 if i==10000:
                   1757:                     i=0
                   1758:                     ext.result+="<br>"
                   1759:             #check if basket name is in the first line
                   1760:             if line.find("#atf basket")>=0: #old convention
                   1761:                 ret=line.replace('#atf basket ','')
                   1762:                 ret=ret.split('_')[0]
                   1763:             elif line.find("#basket:")>=0: #new convention
                   1764:                 ret=line.replace('#basket: ','')
                   1765:                 ret=ret.split('_')[0]
                   1766: 
                   1767:             else:
                   1768:                 if (len(line.lstrip())>0) and (line.lstrip()[0]=="&"): #newfile
                   1769:                     if nf:
                   1770:                         nf.close() #close last file
                   1771: 
1.49      dwinter  1772: 
1.66      dwinter  1773:                     filename=line[1:].split("=")[0].rstrip()+".atf"
                   1774:                     if dir:
                   1775:                         filename=os.path.join(dir,filename)
                   1776:                     nf=file(filename,"w")
                   1777:                     logging.info("open %s"%filename)
                   1778:                 if nf:    
                   1779:                     nf.write(line.replace("\n","")+"\n")
                   1780: 
                   1781:     try:        
                   1782:         nf.close()
1.61      dwinter  1783:     except:
1.66      dwinter  1784:         pass
1.73      dwinter  1785:     
                   1786:     if not((type(fh) is StringType) or (type(fh) is UnicodeType)):
                   1787:         fh.close()
1.5       dwinter  1788:     return ret,len(os.listdir(dir))
1.4       dwinter  1789: 
1.19      dwinter  1790: 
1.46      dwinter  1791: class CDLIFileFolder(extVersionedFileFolder):
1.4       dwinter  1792:     """CDLI File Folder"""
1.1       dwinter  1793:     
1.19      dwinter  1794:     security=ClassSecurityInfo()
1.1       dwinter  1795:     meta_type="CDLI Folder"
1.80.2.1  casties  1796:     file_meta_type=['CDLI file']
                   1797:     folder_meta_type=['CDLI Folder']
                   1798:     
1.1       dwinter  1799:     default_catalog='CDLICatalog'
1.80.2.2  casties  1800:     defaultFileCatalog=default_catalog #wenn dieses definiert ist, wird beim hinzufuegen einer neuen version eines files dieser catalog neuindiziert
1.45      dwinter  1801:     #downloadCounter=0 # counts how many download for all files currently run, be mehr als 5 wird verweigert.
1.24      dwinter  1802:     tmpStore2={}
1.80.2.1  casties  1803: 
1.19      dwinter  1804:     def setTemp(self,name,value):
                   1805:         """set tmp"""
                   1806: 
                   1807:         setattr(self,name,value)
                   1808:                                         
                   1809:                                        
1.12      dwinter  1810:     def delete(self,ids):
1.80.2.2  casties  1811:         """delete these files"""
1.12      dwinter  1812:         if type(ids) is not ListType:
                   1813:             ids=[ids]
1.80.2.2  casties  1814: 
                   1815:         self.manage_delObjects(ids)
                   1816: 
1.80.2.1  casties  1817: 
1.4       dwinter  1818:     def getVersionNumbersFromIds(self,ids):
                   1819:         """get the numbers of the current versions of documents described by their ids"""
                   1820:         
                   1821:         ret=[]
                   1822:         searchStr=" OR ".join(ids)
                   1823:         
1.9       dwinter  1824:         founds=self.CDLICatalog.search({'title':searchStr})
1.4       dwinter  1825:         
                   1826:         for found in founds:
1.80.2.1  casties  1827:             lastVersion=found.getObject().getContentObject()
1.4       dwinter  1828:             ret.append((found.getId,lastVersion))
                   1829:         
                   1830:         return ret
                   1831:     
1.67      dwinter  1832:     def getFile(self,fn):
                   1833:         """get the content of the file fn"""
1.80.2.4  casties  1834:         logging.debug("getFile: %s"%repr(fn))
1.80.2.3  casties  1835:         if not self.hasObject(fn):
                   1836:             # search deeper
                   1837:             founds=self.CDLICatalog.search({'title':fn})
                   1838:             if founds:
                   1839:                 obj=founds[0].getObject().getContentObject()
                   1840:             else:
                   1841:                 return "" 
1.67      dwinter  1842:         else:
1.80.2.3  casties  1843:             obj = self[fn].getContentObject()
1.68      dwinter  1844: 
1.80.2.3  casties  1845:         return obj.getData()[0:] 
                   1846:  
1.67      dwinter  1847:     
1.14      dwinter  1848:     def checkCatalog(self,fn):
                   1849:         """check if fn is in the catalog"""
1.19      dwinter  1850:         #TODO add checkCatalog
1.14      dwinter  1851:         
1.19      dwinter  1852:                                    
1.45      dwinter  1853:     def findObjectsFromListWithVersion(self,list,author=None):
1.26      dwinter  1854:         """find objects from a list with versions
                   1855:         @param list: list of tuples  (cdliFile,version)
                   1856:         """
                   1857:         #self.REQUEST.SESSION['fileIds']=list#store fieldIds in session for further usage
                   1858:         #self.REQUEST.SESSION['searchList']=self.REQUEST.SESSION['fileIds']
                   1859:         
                   1860:         pt=getattr(self,'filelistVersioned.html')
                   1861:             
1.45      dwinter  1862:         return pt(search=list,author=author)
1.26      dwinter  1863:     
                   1864:     
1.67      dwinter  1865:     def getAllPNumbers(self):
                   1866:         """get a list of all files (resp their p-numbers) stored"""
                   1867:         
                   1868:         ret=[x.getId for x in  self.CDLICatalog()]
                   1869:      
                   1870:         return ret
                   1871:     
1.35      dwinter  1872:     def findObjectsFromList(self,enterList=None,display=False,start=None,upload=None,list=None,basketName=None,numberOfObjects=None,RESPONSE=None):
1.1       dwinter  1873:         """findObjectsFromList (, TAB oder LINE separated)"""
1.15      dwinter  1874:                                        
                   1875:         
1.6       dwinter  1876:         if upload: # list from file upload
                   1877:             txt=upload.read()
1.35      dwinter  1878:                                        
                   1879:         if enterList:
                   1880:             txt=enterList
                   1881:             
                   1882:         if upload or enterList:
1.6       dwinter  1883:             txt=txt.replace(",","\n")
                   1884:             txt=txt.replace("\t","\n")
1.12      dwinter  1885:             txt=txt.replace("\r","\n")
1.6       dwinter  1886:             idsTmp=txt.split("\n")
                   1887:             ids=[]
                   1888:             for id in idsTmp: # make sure that no empty lines
                   1889:                 idTmp=id.lstrip().rstrip()
                   1890:                 if len(idTmp)>0:
                   1891:                     
                   1892:                     ids.append(idTmp)
                   1893:                     
                   1894:             #self.REQUEST.SESSION['ids']=" OR ".join(ids)
1.12      dwinter  1895: 
1.6       dwinter  1896:             pt=getattr(self,'filelist.html')
1.7       dwinter  1897:             self.REQUEST.SESSION['searchList']=ids
1.6       dwinter  1898:             return pt(search=ids)
1.7       dwinter  1899:         
1.6       dwinter  1900:         if basketName:
1.7       dwinter  1901:             #TODO: get rid of one of these..
                   1902:             
1.6       dwinter  1903:             pt=getattr(self,'filelist.html')
1.7       dwinter  1904:             return pt(basketName=basketName,numberOfObjects=numberOfObjects)
1.6       dwinter  1905:         
1.15      dwinter  1906:         if list is not None: # got already a list
1.6       dwinter  1907:             ret=[]
                   1908:             for fileId in list:
1.35      dwinter  1909:                 if fileId.find("*"): #check for wildcards
                   1910:                         fileId=fileId
                   1911:                 elif len(fileId.split("."))==1:
1.6       dwinter  1912:                         fileId=fileId+".atf"
1.35      dwinter  1913:                 
1.6       dwinter  1914:                 ret+=self.CDLICatalog({'title':fileId})
1.7       dwinter  1915:             #TODO: get rid of one of these..
1.25      dwinter  1916:             ids=[x.getObject().getId() for x in ret]
                   1917:             self.REQUEST.SESSION['fileIds']=ids#store fieldIds in session for further usage
1.7       dwinter  1918:             self.REQUEST.SESSION['searchList']=self.REQUEST.SESSION['fileIds']
1.25      dwinter  1919:             
                   1920:             if display:
                   1921:                 pt=getattr(self,'filelist.html')
                   1922:                 
                   1923:                 return pt(search=ids)
                   1924:             else:      
                   1925:                 return ret
                   1926:         
                   1927:         
1.1       dwinter  1928:         
1.7       dwinter  1929:         if start:
                   1930:             RESPONSE.redirect("filelist.html?start:int="+str(start))
1.15      dwinter  1931:                                        
1.18      dwinter  1932: 
1.19      dwinter  1933:     security.declareProtected('Manage','createAllFilesAsSingleFile')
1.1       dwinter  1934:     def createAllFilesAsSingleFile(self,RESPONSE=None):
                   1935:         """download all files"""
                   1936:         
                   1937:         def sortF(x,y):
                   1938:             return cmp(x[0],y[0])
                   1939:         
                   1940:         catalog=getattr(self,self.default_catalog)
                   1941:         #tf,tfilename=mkstemp()
1.66      dwinter  1942:         if not hasattr(self.temp_folder,'downloadCounter'):
                   1943:             self.temp_folder.downloadCounter=0
1.49      dwinter  1944: 
                   1945:         if getattr(self.temp_folder,'downloadCounter',0) > 5:
1.46      dwinter  1946:             return """I am sorry, currently the server has to many requests for downloads, please come back later!"""
1.45      dwinter  1947: 
1.46      dwinter  1948:         self.temp_folder.downloadCounter+=1
                   1949:         self._p_changed=1
1.58      dwinter  1950:         transaction.get().commit()
1.45      dwinter  1951:        
1.1       dwinter  1952:         list=[(x.getId,x) for x in catalog()]
                   1953:         list.sort(sortF)
1.46      dwinter  1954:         
1.45      dwinter  1955: 
1.1       dwinter  1956:         
                   1957:         RESPONSE.setHeader("Content-Disposition","""attachement; filename=%s"""%"all.atf")
                   1958:         RESPONSE.setHeader("Content-Type","application/octet-stream")
1.46      dwinter  1959:         tmp=""
1.1       dwinter  1960:         for l in list:
                   1961:             obj=l[1].getObject()
                   1962:             
                   1963:             if obj.meta_type=="CDLI file":
                   1964:                 
                   1965:                 #os.write(tf,obj.getLastVersion().data)
                   1966:                 if RESPONSE:
1.80.2.1  casties  1967:                     RESPONSE.write(obj.getData()[0:])
1.71      dwinter  1968:                     RESPONSE.write("\n")
1.46      dwinter  1969:                 self.temp_folder.downloadCounter-=1 
                   1970:                 self._p_changed=1
1.58      dwinter  1971:         transaction.get().commit()
1.1       dwinter  1972:         #os.close(tf)
                   1973:         #RESPONSE.redirect(self.absolute_url()+"/downloadFile?fn="%tfilename)
                   1974:         return True
                   1975:     
                   1976:     def downloadFile(self,fn):
                   1977:         """download fn - not used yet"""
                   1978:         self.REQUEST.RESPONSE.setHeader("Content-Disposition","""attachement; filename=%s"""%self.getLastVersion().getId())
                   1979:         self.REQUEST.RESPONSE.setHeader("Content-Type","application/octet-stream")
                   1980:         self.REQUEST.RESPONSE.write(file(fn).read())
                   1981:         
                   1982:       
                   1983:                 
                   1984:     def hasParent(self):
                   1985:         """returns true falls subfolder"""
                   1986:       
1.80.2.1  casties  1987:         if self.aq_parent.meta_type in self.folder_meta_type:
1.1       dwinter  1988:             return True
                   1989:         else:
                   1990:             return False
                   1991:         
                   1992:     def getFolders(self):
                   1993:         """get all subfolders"""
                   1994:         ret=[]
1.80.2.1  casties  1995:         folders=self.ZopeFind(self,obj_metatypes=self.folder_meta_type)
1.1       dwinter  1996:         for folder in folders:
                   1997:             ret.append((folder[1],
1.80.2.1  casties  1998:                         len(self.ZopeFind(folder[1],obj_metatypes=self.folder_meta_type)),
                   1999:                         len(self.ZopeFind(folder[1],obj_metatypes=self.file_meta_type))
1.1       dwinter  2000:                         ))
                   2001:         return ret
                   2002:     
                   2003:             
1.77      dwinter  2004:     security.declareProtected('manage','index_html')
1.1       dwinter  2005:     def index_html(self):
                   2006:         """main"""
                   2007:         ext=self.ZopeFind(self,obj_ids=["index.html"])
                   2008:         if ext:
                   2009:             return ext[0][1]()
                   2010:         
                   2011:         pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','CDLIFileFolderMain')).__of__(self)
                   2012:         return pt()
                   2013:     
1.22      dwinter  2014:     
                   2015: manage_addCDLIFileFolderForm=DTMLFile('dtml/folderAdd', globals())
                   2016: 
                   2017:     
                   2018: def manage_addCDLIFileFolder(self, id, title='',
                   2019:                      createPublic=0,
                   2020:                      createUserF=0,
                   2021:                      REQUEST=None):
                   2022:     """Add a new Folder object with id *id*.
                   2023: 
                   2024:     If the 'createPublic' and 'createUserF' parameters are set to any true
                   2025:     value, an 'index_html' and a 'UserFolder' objects are created respectively
                   2026:     in the new folder.
                   2027:     """
                   2028:     ob=CDLIFileFolder()
                   2029:     ob.id=str(id)
                   2030:     ob.title=title
                   2031:     self._setObject(id, ob)
                   2032:     ob=self._getOb(id)
                   2033: 
                   2034:     checkPermission=getSecurityManager().checkPermission
                   2035: 
                   2036:     if createUserF:
                   2037:         if not checkPermission('Add User Folders', ob):
                   2038:             raise Unauthorized, (
                   2039:                   'You are not authorized to add User Folders.'
                   2040:                   )
                   2041:         ob.manage_addUserFolder()
                   2042: 
                   2043:   
                   2044:     if REQUEST is not None:
                   2045:         return self.manage_main(self, REQUEST, update_menu=1)
                   2046:     
                   2047: class CDLIRoot(Folder):
                   2048:     """main folder for cdli"""
                   2049:     
                   2050:     meta_type="CDLIRoot"
1.80.2.2  casties  2051:     downloadCounterBaskets=0 # counts the current basket downloads if counter > 10 no downloads are possible
1.51      dwinter  2052:     
1.80.2.4  casties  2053:     file_catalog = 'CDLICatalog'
                   2054:     
                   2055:     # word splitter for search
                   2056:     splitter = {'words':cdliSplitter.wordSplitter(),
                   2057:                 'graphemes':cdliSplitter.graphemeSplitter()}
                   2058:     
                   2059:     
1.73      dwinter  2060:     def deleteFiles(self,ids):
1.80.2.2  casties  2061:         """delete files"""
1.73      dwinter  2062:         for id in ids:
                   2063:             founds=self.CDLICatalog.search({'title':id.split(".")[0]})
                   2064:             if founds:
1.80.2.2  casties  2065:                 logging.debug("deleting %s"%founds)
1.73      dwinter  2066:                 folder=founds[0].getObject().aq_parent #get the parent folder of the object
1.80.2.2  casties  2067:                 logging.debug("deleting from %s"%folder)
                   2068:                 cut=folder.delete([founds[0].getId]) #cut it out
1.73      dwinter  2069: 
1.57      dwinter  2070: 
1.51      dwinter  2071: 
1.80.2.4  casties  2072:     def searchText(self, query, index='words'):
                   2073:         """searches query in the fulltext index and returns a list of file ids/P-numbers"""
                   2074:         idxQuery = {index:{'query':query}}
                   2075:         idx = getattr(self, self.file_catalog)
                   2076:         results = []
                   2077:         # do search
                   2078:         resultset = idx.search(idxQuery)
                   2079:         for res in resultset:
                   2080:             # put only the P-Number in the result 
                   2081:             results.append(res.getId[:7])
                   2082:         return results
                   2083: 
                   2084:         # from PluginINdexes.common.util.py:parseIndexRequest:
                   2085:         #
                   2086:         #      The class understands the following type of parameters:
                   2087:         #
                   2088:         #    - old-style parameters where the query for an index as value inside
                   2089:         #      the request directory where the index name is the name of the key.
                   2090:         #      Additional parameters for an index could be passed as index+"_usage" ...
                   2091:         #
                   2092:         #
                   2093:         #    - dictionary-style parameters specify a query for an index as
                   2094:         #      an entry in the request dictionary where the key corresponds to the
                   2095:         #      name of the index and the key is a dictionary with the parameters
                   2096:         #      passed to the index.
                   2097:         #
                   2098:         #      Allowed keys of the parameter dictionary:
                   2099:         #
                   2100:         #      'query'  - contains the query (either string, list or tuple) (required)
                   2101:         #
                   2102:         #      other parameters depend on the the index
                   2103:         #
                   2104:         #
                   2105:         #   - record-style parameters specify a query for an index as instance of the
                   2106:         #     Record class. This happens usually when parameters from a web form use
                   2107:         #     the "record" type e.g. <input type="text" name="path.query:record:string">.
                   2108:         #     All restrictions of the dictionary-style parameters apply to the record-style
                   2109:         #     parameters
                   2110: 
                   2111: 
                   2112: 
1.74      dwinter  2113:     def showFile(self,fileId,wholePage=False):
1.71      dwinter  2114:         """show a file
                   2115:         @param fileId: P-Number of the document to be displayed
                   2116:         """
1.51      dwinter  2117:         f=self.CDLICatalog({'title':fileId})
                   2118:         if not f:
                   2119:             return ""
                   2120:         
1.74      dwinter  2121:         if wholePage:
1.80.2.2  casties  2122:             logging.debug("show whole page")
1.80.2.1  casties  2123:             return f[0].getObject().getContentObject().view()
1.74      dwinter  2124:         else:
                   2125:             return f[0].getObject().getLastVersionFormattedData()
1.55      dwinter  2126:     
1.56      dwinter  2127: 
1.80.2.5! casties  2128:     def showWordInFile(self,fileId,word,indexName='graphemes',regExp=False,):
1.80.2.2  casties  2129:         """get lines with word from FileId"""
1.56      dwinter  2130:         
                   2131:         file=self.showFile(fileId)
1.66      dwinter  2132:         ret=[]
1.80.2.5! casties  2133:         # search using lowercase
        !          2134:         word = word.lower()
1.71      dwinter  2135:         if regExp: # wenn regexp dann generiere alle worte aus der list die der regexp entsprechen
                   2136:             wordlist=self.findWordRegExp(indexName,word)
                   2137:         else:
1.80.2.5! casties  2138:             # split the search term into words according to the corresponding splitter
        !          2139:             #try:
        !          2140:             wordlist = self.splitter[indexName].process([word])
        !          2141:             #except:
        !          2142:             #    wordlist=[word]
1.71      dwinter  2143:         
1.66      dwinter  2144:         for line in file.split("\n"):
1.80.2.4  casties  2145:             line = formatAtfLineHtml(unicodify(line))
1.80.2.5! casties  2146:             if not line:
        !          2147:                 # formatAtf can produce empty lines
        !          2148:                 continue
1.71      dwinter  2149:             for word in wordlist:
1.80.2.5! casties  2150:                 if line.lower().find(word)>-1:
        !          2151:                     ret.append(line)
1.66      dwinter  2152:         return ret
1.80.2.4  casties  2153:     
1.56      dwinter  2154: 
1.80.2.5! casties  2155:     def tagWordInFile(self,fileId,word,indexName='graphemes',regExp=False):
1.80.2.2  casties  2156:         """get text with word highlighted from FileId"""
1.51      dwinter  2157:         
1.56      dwinter  2158:         file=self.showFile(fileId)
1.79      casties  2159:         tagStr=u'<span class="found">%s</span>'
1.66      dwinter  2160:         ret=[]
1.80.2.4  casties  2161:         # search using lowercase
                   2162:         word = word.lower()
1.71      dwinter  2163:         
                   2164:         if regExp: # wenn regexp dann generiere alle worte aus der list die der regexp entsprechen
                   2165:             wordlist=self.findWordRegExp(indexName,word)
                   2166:         else:
1.80.2.4  casties  2167:             # split the search term into words according to the corresponding splitter
                   2168:             #try:
                   2169:             wordlist = self.splitter[indexName].process([word])
                   2170:             #except:
                   2171:             #    wordlist=[word]
1.71      dwinter  2172:             
1.66      dwinter  2173:         for line in file.split("\n"):
1.80.2.4  casties  2174:             line = formatAtfLineHtml(unicodify(line))
                   2175:             if not line:
                   2176:                 # formatAtf can produce empty lines
                   2177:                 continue
                   2178:             
                   2179:             for w in wordlist:
                   2180:                 if line.lower().find(w)>-1: 
                   2181:                     #word ist gefunden dann makiere
                   2182:                     line = line.replace(w,tagStr%w)
                   2183:                     
                   2184:             ret.append(line)
1.71      dwinter  2185:                         
1.79      casties  2186:         return u'<br>\n'.join(ret)
1.56      dwinter  2187: 
1.37      dwinter  2188:     def URLquote(self,str):
                   2189:         """quote url"""
                   2190:         return urllib.quote(str)
                   2191:     
                   2192:     def URLunquote(self,str):
                   2193:         """unquote url"""
                   2194:         return urllib.unquote(str)
                   2195:     
1.58      dwinter  2196:     def URLquote_plus(self,str):
                   2197:         """quote url"""
                   2198:         return urllib.quote_plus(str)
                   2199:     
                   2200:     def URLunquote_plus(self,str):
                   2201:         """unquote url"""
                   2202:         return urllib.unquote_plus(str)
                   2203:     
1.37      dwinter  2204:     
1.26      dwinter  2205:     def forceunlock(self):
                   2206:         "break all locks"
                   2207:         ret=[]
                   2208:         for f in self.ZopeFind(self,obj_metatypes="CDLI file",search_sub=1):
                   2209:            un=f[1].forceunlock()
1.39      dwinter  2210: 
1.26      dwinter  2211:            if un and un !="":
                   2212:                ret.append((f[0],un))
1.46      dwinter  2213: 
1.61      dwinter  2214:         return ret
1.71      dwinter  2215:                                         
1.61      dwinter  2216: 
1.26      dwinter  2217:     def getChangesByAuthor(self,author,n=100):
1.25      dwinter  2218:         """getChangesByAuthor"""
1.26      dwinter  2219:         zcat=self.CDLIObjectsCatalog
                   2220:         res=zcat({'lastEditor':author,
1.25      dwinter  2221:                      'sort_on':'getTime',
                   2222:                      'sort_order':'descending',
                   2223:                      'sort_limit':n})[:n ]
1.26      dwinter  2224:                        
                   2225:         return res
                   2226:     
                   2227:     def getChangesByAuthor_html(self,author,n=100):
                   2228:         """html output for changes by author"""
                   2229:         tmp={}
                   2230:         list=[]                         
                   2231:         for x in self.getChangesByAuthor(author):
                   2232:            nr=x.getObject().getVersionNumber()
                   2233:            id=x.getObject().aq_parent.getId()
                   2234:            #hinzufuegen, wenn Version neuer als die 
                   2235:            if tmp.get(id,(0,0))[1] < nr:
                   2236:                 tmp[id]=(x.getObject().aq_parent,nr)
                   2237: 
                   2238:      
1.45      dwinter  2239:         return self.cdli_main.findObjectsFromListWithVersion(list=tmp.values(),author=author)           
1.26      dwinter  2240:         
1.25      dwinter  2241:     def getLastChanges(self,n=100):
                   2242:         """get the last n changes""" 
                   2243:         n=int(n)                   
                   2244:         zcat=self.CDLICatalog
                   2245:         return zcat({'sort_on':'getLastChangeDate',
                   2246:                      'sort_order':'descending',
                   2247:                      'sort_limit':n})[:n ]
                   2248:      
                   2249:     
                   2250:     def getLastChanges_html(self,n=100):
                   2251:         """get the last n changes"""
                   2252:         list = [x.getId for x in self.getLastChanges(n)]
                   2253:         return self.cdli_main.findObjectsFromList(list=list,display=True)
                   2254:                                        
1.24      dwinter  2255:     def refreshTxt(self,txt="",threadName=None):
1.22      dwinter  2256:         """txt fuer refresh"""
                   2257:   
1.24      dwinter  2258:         return """ 2;url=%s?repeat=%s """%(self.absolute_url()+txt,threadName)
1.22      dwinter  2259: 
                   2260:     
1.24      dwinter  2261:     def getResult(self,threadName=None):
1.22      dwinter  2262:        """result of thread"""
                   2263:        try:
1.24      dwinter  2264:         return self._v_uploadATF[threadName].getResult()
1.22      dwinter  2265:        except:
                   2266:         return "One moment, please"
                   2267:     
1.24      dwinter  2268:         
                   2269:     def checkThreads(self):
                   2270:         """check threads"""
1.42      dwinter  2271:         ret="<html><body>"
                   2272:         for thread in threading.enumerate():
1.45      dwinter  2273:            ret+="<p>%s (%s): %s</p>"%(repr(thread),thread.getName(),thread.isAlive())
1.42      dwinter  2274:        
                   2275:         return ret
                   2276:                                        
                   2277:                                            
1.73      dwinter  2278:     def uploadATFRPC(self,data,username):
                   2279:         """upload an atffile via xml-rpc"""
                   2280:         uploader=uploadATFThread()
                   2281:         
                   2282:         #generate an random id for the upload object
                   2283:         from random import randint
                   2284:         if (not self.REQUEST.SESSION.get('idTmp',None)):
                   2285: 
                   2286:             idTmp=str(randint(0,1000000000))
                   2287:             self.REQUEST.SESSION['idTmp']=idTmp
                   2288:         else:
                   2289:             idTmp=self.REQUEST.SESSION.get('idTmp',None)
                   2290:             
                   2291:         
                   2292:         uploader.set(data,0,username,idTmp)
                   2293:         
                   2294:         stObj=uploader.run()
                   2295:         
                   2296:         processor=uploadATFfinallyThread()
                   2297:         
                   2298:         basketname=stObj.returnValue['basketNameFromFile']
                   2299:         
                   2300:         processor.set("uploadchanged",basketname=basketname,SESSION=stObj.returnValue,username=username,serverport=self.REQUEST['SERVER_PORT'])
                   2301:         
                   2302:         processor.run()
                   2303:         
                   2304:         
                   2305:         return generateXMLReturn(stObj.returnValue)
                   2306:         
1.22      dwinter  2307:     def uploadATF(self,repeat=None,upload=None,basketId=0,RESPONSE=None):
1.69      dwinter  2308:         """upload an atf file / basket file"""
1.22      dwinter  2309:         #self._v_uploadATF.returnValue=None
1.71      dwinter  2310:         
                   2311:         #generate an random id for the upload thread
1.60      dwinter  2312:         from random import randint
1.61      dwinter  2313:         if (not self.REQUEST.SESSION.get('idTmp',None)):
1.22      dwinter  2314: 
1.60      dwinter  2315:             idTmp=str(randint(0,1000000000))
                   2316:             self.REQUEST.SESSION['idTmp']=idTmp
                   2317:         else:
                   2318:             idTmp=self.REQUEST.SESSION.get('idTmp',None)
                   2319:             
1.71      dwinter  2320:     
1.22      dwinter  2321:         threadName=repeat
                   2322:         if not threadName or threadName=="":
1.71      dwinter  2323:             #new thread not called from the waiting page
1.22      dwinter  2324:             tmpVar=False
1.24      dwinter  2325:        
1.22      dwinter  2326:             thread=uploadATFThread()
1.24      dwinter  2327:             threadName=thread.getName()[0:]                                
1.36      dwinter  2328:             if (not hasattr(self,'_v_uploadATF')):
1.24      dwinter  2329:                    self._v_uploadATF={}
                   2330:                                        
                   2331:             self._v_uploadATF[threadName]=thread
1.22      dwinter  2332:             #self._xmltrans.start()
                   2333:             #thread=Thread(target=self._v_uploadATF)
1.60      dwinter  2334:             logging.info("set thread. extern")
                   2335:             self._v_uploadATF[threadName].set(upload,basketId,self.REQUEST['AUTHENTICATED_USER'],idTmp,serverport=self.REQUEST['SERVER_PORT'])
1.22      dwinter  2336:             #thread.start()
1.60      dwinter  2337:             logging.info("start thread. extern")
1.24      dwinter  2338:             self._v_uploadATF[threadName].start()
1.22      dwinter  2339: 
                   2340:             
1.24      dwinter  2341:             self.threadName=self._v_uploadATF[threadName].getName()[0:]
1.22      dwinter  2342:             wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2343: 
                   2344:             if wait_template:
                   2345:                 return wait_template[0][1]()
                   2346:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
1.24      dwinter  2347:             return pt(txt='/uploadATF',threadName=threadName)
1.22      dwinter  2348:             #_v_xmltrans.run()
                   2349:             
                   2350:         else:
                   2351:             #recover thread, if lost
1.36      dwinter  2352:             if (not hasattr(self,'_v_uploadATF')):
1.24      dwinter  2353:                self._v_uploadATF={}
                   2354:             if not self._v_uploadATF.get(threadName,None):
1.22      dwinter  2355:                  for thread in threading.enumerate():
                   2356:                          if threadName == thread.getName():
1.24      dwinter  2357:                                        self._v_uploadATF[threadName]=thread
                   2358:                                        
1.60      dwinter  2359:             if self._v_uploadATF.get(threadName,None) and (not self._v_uploadATF[threadName].returnValue):
1.22      dwinter  2360:         
                   2361: 
                   2362:                 wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2363:                 if wait_template:
                   2364:                         return wait_template[0][1]()
                   2365:                 
                   2366:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
                   2367: 
1.24      dwinter  2368:                 return pt(txt='/uploadATF',threadName=threadName)
1.22      dwinter  2369:                 
                   2370:             else:
1.60      dwinter  2371:                 tmp=getattr(self.temp_folder,idTmp).returnValue
1.71      dwinter  2372:  
1.22      dwinter  2373:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadCheck.zpt')).__of__(self)
1.39      dwinter  2374: 
1.47      dwinter  2375:                 return pt(changed=tmp['changed'],lockerrors=tmp['lockerrors'],errors=tmp['errors'],dir=tmp['dir'],newPs=tmp['newPs'],basketLen=tmp['basketLen'],numberOfFiles=tmp['numberOfFiles'],
1.22      dwinter  2376:                   basketNameFromId=tmp['basketNameFromId'],basketNameFromFile=tmp['basketNameFromFile'],basketId=tmp['basketId'])
1.30      dwinter  2377:                      
                   2378:     def redoUpload(self,threadName):
                   2379:        """redo the upload"""
                   2380:        tmp=self.cdli_main.tmpStore2[threadName]
                   2381:        pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadCheck.zpt')).__of__(self)
1.45      dwinter  2382:        return pt(changed=tmp['changed'],lockerrors=tmp['lockerrors'],errors=tmp['errors'],dir=tmp['dir'],newPs=tmp['newPs'],basketLen=tmp['basketLen'],numberOfFiles=tmp['numberOfFiles'],
1.30      dwinter  2383:                   basketNameFromId=tmp['basketNameFromId'],basketNameFromFile=tmp['basketNameFromFile'],basketId=tmp['basketId'])
                   2384:                  
1.22      dwinter  2385:     def uploadATFfinally(self,procedure='',comment="",basketname='',unlock=None,repeat=None,RESPONSE=None):
                   2386:         """nowupload the files"""
                   2387:        
                   2388:        
                   2389:        
                   2390:         threadName=repeat
                   2391:         if not threadName or threadName=="":
1.24      dwinter  2392:             thread=uploadATFfinallyThread()
                   2393:             threadName=thread.getName()[0:]
1.36      dwinter  2394: 
1.35      dwinter  2395:             if (not hasattr(self,'_v_uploadATF')):
1.46      dwinter  2396:                                 self._v_uploadATF={}
1.36      dwinter  2397: 
1.43      dwinter  2398: 
1.24      dwinter  2399:             self._v_uploadATF[threadName]=thread
1.22      dwinter  2400: 
1.60      dwinter  2401:             idTmp=self.REQUEST.SESSION['idTmp']
                   2402:             stObj=getattr(self.temp_folder,idTmp)
                   2403:             self._v_uploadATF[threadName].set(procedure,comment=comment,basketname=basketname,unlock=unlock,SESSION=stObj.returnValue,username=self.REQUEST['AUTHENTICATED_USER'],serverport=self.REQUEST['SERVER_PORT'])
1.22      dwinter  2404: 
1.24      dwinter  2405:             self._v_uploadATF[threadName].start()
1.22      dwinter  2406: 
                   2407:             
1.24      dwinter  2408:             
1.22      dwinter  2409:             wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2410: 
                   2411:             if wait_template:
                   2412:                 return wait_template[0][1]()
                   2413:             pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
                   2414: 
1.24      dwinter  2415:             return pt(txt='/uploadATFfinally',threadName=threadName)
1.22      dwinter  2416:             #_v_xmltrans.run()
                   2417:         
                   2418:         else:
                   2419:             #recover thread, if lost
                   2420:             if not hasattr(self,'_v_uploadATF'):
1.24      dwinter  2421:                self._v_uploadATF={}
                   2422:             if not self._v_uploadATF.get(threadName,None):
1.22      dwinter  2423:                  for thread in threading.enumerate():
                   2424:                          if threadName == thread.getName():
1.24      dwinter  2425:                                        self._v_uploadATF[threadName]=thread
1.22      dwinter  2426:                                        
1.24      dwinter  2427:             if self._v_uploadATF.get(threadName,None) and (self._v_uploadATF[threadName] is not None) and (not self._v_uploadATF[threadName].end) :
1.22      dwinter  2428: 
                   2429:                 wait_template=self.aq_parent.ZopeFind(self.aq_parent,obj_ids=['wait_template'])
                   2430:                 if wait_template:
                   2431:                         return wait_template[0][1]()
                   2432:                 
                   2433:                 pt=PageTemplateFile(os.path.join(package_home(globals()),'zpt','uploadATFWait.zpt')).__of__(self)
1.24      dwinter  2434:                 return pt(txt='/uploadATFfinally',threadName=threadName)
1.22      dwinter  2435:             else:
1.60      dwinter  2436:               self.REQUEST.SESSION['idTmp']=None
1.22      dwinter  2437:               if RESPONSE is not None:
                   2438:                   RESPONSE.redirect(self.absolute_url())
                   2439: 
1.49      dwinter  2440:     def importFiles(self,comment="",author="" ,folderName="/Users/dwinter/atf", files=None,ext=None):
1.1       dwinter  2441:         """import files"""
1.22      dwinter  2442:         root=self.cdli_main
1.49      dwinter  2443:         count=0
1.3       dwinter  2444:         if not files:
                   2445:             files=os.listdir(folderName)
                   2446:             
1.1       dwinter  2447:         for f in files:
                   2448:             folder=f[0:3]
                   2449:             f2=f[0:5]
1.22      dwinter  2450:             obj=self.ZopeFind(root,obj_ids=[folder])
1.19      dwinter  2451:             if ext:
                   2452:   
1.65      dwinter  2453:                 ext.result="<p>adding: %s </p>"%f+ext.result
1.1       dwinter  2454:             if not obj:
1.22      dwinter  2455:                 manage_addCDLIFileFolder(root,folder,folder)
                   2456:                 fobj=getattr(root,folder)
1.58      dwinter  2457:                 #transaction.get().commit()                           
1.1       dwinter  2458:             else:
                   2459:                 fobj=obj[0][1]
                   2460:             
                   2461:             obj2=fobj.ZopeFind(fobj,obj_ids=[f2])
                   2462:         
                   2463:             if not obj2:
                   2464:                 manage_addCDLIFileFolder(fobj,f2,f2)
                   2465:                 fobj2=getattr(fobj,f2)
                   2466:         
                   2467:             else:
                   2468:                 fobj2=obj2[0][1]
                   2469:               
1.48      dwinter  2470:             file2=os.path.join(folderName,f)  
1.1       dwinter  2471:             id=f
                   2472:             manage_addCDLIFile(fobj2,f,'','')
                   2473:             id=f
                   2474:             ob=fobj2._getOb(f)
                   2475:             ob.title=id
                   2476:             
1.48      dwinter  2477:             manage_addCDLIFileObject(ob,id,comment,author,file2,content_type='',from_tmp=True)
1.3       dwinter  2478:             self.CDLICatalog.catalog_object(ob)
                   2479:             #self.CDLICatalog.manage_catalogFoundItems(obj_ids=[id],search_sub=1)
                   2480:             #self.CDLICatalog.manage_catalogObject(self.REQUEST, self.REQUEST.RESPONSE, 'CDLICatalog', urlparse.urlparse(ob.absolute_url())[1])
1.66      dwinter  2481:             count+=1
1.49      dwinter  2482: 
1.66      dwinter  2483:             if count > 1000:
                   2484:                 print "committing"
                   2485:                 transaction.get().commit()
                   2486:                 count=0
                   2487:             transaction.get().commit()
1.3       dwinter  2488:         return "ok"
1.22      dwinter  2489:          
                   2490: 
                   2491: manage_addCDLIRootForm=DTMLFile('dtml/rootAdd', globals())
1.1       dwinter  2492: 
                   2493:     
1.22      dwinter  2494: def manage_addCDLIRoot(self, id, title='',
1.1       dwinter  2495:                      createPublic=0,
                   2496:                      createUserF=0,
                   2497:                      REQUEST=None):
                   2498:     """Add a new Folder object with id *id*.
                   2499: 
                   2500:     If the 'createPublic' and 'createUserF' parameters are set to any true
                   2501:     value, an 'index_html' and a 'UserFolder' objects are created respectively
                   2502:     in the new folder.
                   2503:     """
1.22      dwinter  2504:     ob=CDLIRoot()
1.1       dwinter  2505:     ob.id=str(id)
                   2506:     ob.title=title
1.61      dwinter  2507:     try:
1.66      dwinter  2508:         self._setObject(id, ob)
1.61      dwinter  2509:     except:
1.66      dwinter  2510:         pass
1.1       dwinter  2511:     ob=self._getOb(id)
                   2512: 
                   2513:     checkPermission=getSecurityManager().checkPermission
                   2514: 
                   2515:     if createUserF:
                   2516:         if not checkPermission('Add User Folders', ob):
                   2517:             raise Unauthorized, (
                   2518:                   'You are not authorized to add User Folders.'
                   2519:                   )
                   2520:         ob.manage_addUserFolder()
                   2521: 
                   2522:   
                   2523:     if REQUEST is not None:
1.22      dwinter  2524:         return self.manage_main(self, REQUEST, update_menu=1)    
                   2525:  

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>