--- ZSQLExtend/ZSQLExtend.py 2007/04/19 20:29:59 1.112 +++ ZSQLExtend/ZSQLExtend.py 2007/07/31 11:28:48 1.118 @@ -56,6 +56,27 @@ def analyseIntSearch(word): else: return "BETWEEN "+splitted[0]+" AND "+splitted[1] +def unicodify(str): + """decode str (utf-8 or latin-1 representation) into unicode object""" + if not str: + return u"" + if type(str) is StringType: + try: + return str.decode('utf-8') + except: + return str.decode('latin-1') + else: + return str + +def utf8ify(str): + """encode unicode object or string into byte string in utf-8 representation""" + if not str: + return "" + if type(str) is StringType: + return str + else: + return str.encode('utf-8') + def sql_quote(v): @@ -88,7 +109,9 @@ class ZSQLIndex(SimpleItem): return self.index class ZSQLExtendFolder(Folder,Persistent, Implicit): - """Folder""" + """Klasse die Methoden fuer die Abfrage einer SQL-Datenbank zur Verfuegung stellt. + + """ meta_type="ZSQLExtendFolder" def ZSQLQuote(self,str): @@ -97,17 +120,25 @@ class ZSQLExtendFolder(Folder,Persistent def normalizeField(self,table,fieldname, newFieldName=None,mode="alter", RESPONSE=None): - """normalize a field""" + """normalize a field, d.h. entfernt alle diakritischen Zeichen und ersetzt diese + durch den Grundbuchstaben in einer Spalte einer Tabelle + @param table: Tabellename + @param fieldname: Name der Spalte + @param newFieldName: (optional) default ist fieldname+"_normal" + @param mode: (optional) default ist "alter". Mode "alter" aendert ein bestehendes Feld newFieldName, mode "create" erzeugt diese zuerst. + """ import unicodedata if not newFieldName: newFieldName=fieldname+"_normal" - + + #normalisierungs routine def normal(str): if str: return unicodedata.normalize('NFKD', str.decode('utf-8')).encode('ASCII', 'ignore') else: return "" + if mode=="create": # create the field qstr="""alter table %s add %s %s""" self.ZSQLSimpleSearch(qstr%(table,newFieldName,'text')) @@ -304,9 +335,8 @@ class ZSQLExtendFolder(Folder,Persistent logger("update xml",logging.INFO,queryStr) self.ZSQLSimpleSearch(queryStr) ret+="ud: %s \n"%field - else: - + else: fields=",".join(dataSet.keys()) values=",".join([""" %s """%self.ZSQLQuote(dataSet[x]) for x in dataSet.keys()]) @@ -315,101 +345,12 @@ class ZSQLExtendFolder(Folder,Persistent self.ZSQLSimpleSearch(queryStr) logger("update xml",logging.INFO,queryStr) - - - return ret - def importXMLFile(self,table,containerTagName,fieldNames,data=None,identify=None,filename=None,RESPONSE=None): - #TODO: finish importXMLFile - ''' - Import XML file into the table - @param table: name of the table the xml shall be imported into - @param containerTagName: XML-Tag which describes a dataset - @param file: xmlfile handle - @param identify: (optional) field res. tag which identifies a entry uniquely for updating purposes. - @param RESPONSE: (optional) - ''' - ret="" - from xml.dom.pulldom import parseString - - doc=parseString(file.read()) - while 1: - node=doc.getEvent() - - if node is None: - break; - else: - if node[1].nodeName==containerTagName: - doc.expandNode(node[1]) - cols=node[1].getElementsByTagName('COL') - dataSet=[] - for col in cols: - data=col.getElementsByTagName('DATA') - dataSet.append(getTextFromNode(data[0])) - update=False - if identify: - - nr=fieldNames.index(identify) - field=dataSet[nr] - - searchStr="""select %s from %s where %s = '%s'"""%(identify,table,identify,field) - logger("import xml",logging.INFO,searchStr) - search=self.ZSQLSimpleSearch(searchStr) - if search: - update=True - - if update: - tmp=[] - for fieldName in fieldNames: - tmp.append("""%s = %s"""%(fieldName,self.ZSQLQuote(dataSet[fieldNames.index(fieldName)]))) - setStr=",".join(tmp) - nr=fieldNames.index(identify) - field=dataSet[nr] - - queryStr="""UPDATE %s SET %s WHERE %s = '%s' """%(table,setStr,identify,field) - logger("update xml",logging.INFO,queryStr) - self.ZSQLSimpleSearch(queryStr) - ret+="ud: %s \n"%field - else: - - - fields=",".join(fieldNames) - values=",".join([""" %s """%self.ZSQLQuote(x) for x in dataSet]) - - - queryStr="""INSERT INTO %s (%s) VALUES (%s)"""%(table,fields,values) - self.ZSQLSimpleSearch(queryStr) - logger("update xml",logging.INFO,queryStr) - ret+="ad: %s \n"%field - - elif node[1].nodeName=="METADATA": - fieldNames=[] - doc.expandNode(node[1]) - - names=node[1].getElementsByTagName('FIELD') - - for name in names: - fieldNames.append(name.getAttribute('NAME')) - - logger("update xml: fieldnames",logging.INFO,repr(fieldNames)) - qstr="""select attname from pg_attribute, pg_class where attrelid = pg_class.oid and relname = '%s' """ - columns=[x.attname for x in self.ZSQLSimpleSearch(qstr%table)] - - for fieldName in fieldNames: - logger("update xml: fieldname",logging.INFO,repr(fieldName)) - if fieldName not in columns: - qstr="""alter table %s add %s %s""" - self.ZSQLSimpleSearch(qstr%(table,fieldName,'text')) - logger("update xml: fieldname add",logging.INFO,qstr%(table,fieldName,'text')) - #fn=node[1].getAttribute("xml:id") - #nf=file("xtf/"+fn+".xtf",'w') - #nf.write(""""""+node[1].toxml()+"") - #print "wrote: %s"%fn - - - def importXMLFileFMP(self,table,dsn=None,uploadfile=None,update_fields=None,id_field=None,sync_mode=False,replace=False,redirect_url=None,ascii_db=False,RESPONSE=None): + def importXMLFileFMP(self,table,dsn=None,uploadfile=None,update_fields=None,id_field=None,sync_mode=False, + lc_names=True,keep_fields=False,ascii_db=False,replace=False,backup=False, + redirect_url=None,RESPONSE=None): ''' Import FileMaker XML file (FMPXMLRESULT format) into the table. @param dsn: database connection string @@ -418,13 +359,18 @@ class ZSQLExtendFolder(Folder,Persistent @param update_fields: (optional) list of fields to update; default is to create all fields @param id_field: (optional) field which uniquely identifies an entry for updating purposes. @param sync_mode: (optional) really synchronise, i.e. delete entries not in XML file + @param lc_names: (optional) lower case and clean up field names from XML + @param keep_fields: (optional) don't add fields to SQL database + @param ascii_db: (optional) assume ascii encoding in db + @param replace: (optional) delete and re-insert data + @param backup: (optional) create backup of old table (breaks indices) @param RESPONSE: (optional) @param redirect_url: (optional) url for redirecting after the upload is done ''' tfilehd,filename=tempfile.mkstemp() tfile=os.fdopen(tfilehd,'w') - logging.error("import %s"%uploadfile) + logging.info("import %s"%uploadfile) for c in uploadfile.read(): tfile.write(c) tfile.close() @@ -441,20 +387,30 @@ class ZSQLExtendFolder(Folder,Persistent options.update_fields=update_fields options.id_field=id_field options.sync_mode=sync_mode + options.lc_names=lc_names + options.replace_table=replace + options.keep_fields=keep_fields + options.ascii_db=ascii_db options.replace_table=replace - options.lc_names=True - options.ascii_db=ascii_db + options.backup_table=backup + importFMPXML(options) os.remove(filename) if RESPONSE and redirect_url: RESPONSE.redirect(redirect_url) + def generateIndex(self,field,index_name,table,RESPONSE=None): - """erzeuge index aus feld""" + """erzeuge ein Index Objekt einem Feld (experimental) + @param field: Feldname zu dem ein Index erzeugt werden soll + @param index_name: Name des Index + @param table: Tabellen name""" + + index={} - founds=self.ZSQLSimpleSearch("""SELECT %s,oid FROM %s LIMIT 2000"""%(field,table)) + founds=self.ZSQLSimpleSearch("""SELECT %s,oid FROM %s """%(field,table)) for found in founds: tmp=getattr(found,field,None) @@ -474,26 +430,23 @@ class ZSQLExtendFolder(Folder,Persistent self._getOb(index_name).setIndex(index) def getIndex(self,index_name): - """getIndex""" + """getIndex from index_name + return an indexObject with index_name + """ + founds=self.ZopeFind(self,obj_ids=[index_name]) return founds[0][1].getIndex() - def testneu(self): - """test""" - relStatement="""period like '%s%%'""" - statement="select * from cdli_cat" - wherePart="museum_no like 'VAT%'" - classes=['Uruk III','Uruk IV'] - return self.searchRel(relStatement,statement,wherePart,classes) - def URLquote(self,txt): - """urlquote""" + """urlquote" + @param txt: text der urlgequoted werden soll. + """ return urllib.quote(txt) def searchRel(self,relStatement,statement,wherePart,classes): - """suche relative haufigkeiten""" + """suche relative haufigkeiten (experimental)""" ret={} allRecords=len(self.ZSQLSimpleSearch(statement + " where "+wherePart)) @@ -503,7 +456,7 @@ class ZSQLExtendFolder(Folder,Persistent return (ret,allRecords) def content_html(self): - """template fuer content""" + """template fuer content_html Aufruf, notwendig fuer Kompatibiliaet bei gemeinsamem Einsatz mich ECHO-Produkt""" try: obj=getattr(self,"ZSQLBibliography_template") @@ -516,21 +469,21 @@ class ZSQLExtendFolder(Folder,Persistent def getWeight(self): - """getLabe""" + """getWeight, gewicht notwendig fuer Kompatibiliaet bei gemeinsamem Einsatz mich ECHO-Produkt""" try: return self.weight except: return "" def getLabel(self): - """getLabe""" + """getLabel notwendig fuer Kompatibiliaet bei gemeinsamem Einsatz mich ECHO-Produkt""" try: return self.label except: return "" def getDescription(self): - """getLabe""" + """getDEscription: notwendig fuer Kompatibiliaet bei gemeinsamem Einsatz mich ECHO-Produkt""" try: return self.description except: @@ -547,7 +500,7 @@ class ZSQLExtendFolder(Folder,Persistent def changeZSQLExtend(self,label,description,weight=0,REQUEST=None,connection_id=None): - """change it""" + """change the Konfiguration""" self.connection_id=connection_id self.weight=weight self.label=label @@ -557,8 +510,15 @@ class ZSQLExtendFolder(Folder,Persistent return self.manage_main(self, REQUEST) def formatAscii(self,str,url=None): - """ersetze ascii umbrueche durch
""" - #url=None + """ersetze ascii umbrueche durch
+ @param str: string der Formatiert werden soll. + @param url: (optional) default ist "None", sonderfall erzeugt einen Link aus String mit unterliegender url + """ + #logging.debug("formatascii str=%s url=%s"%(repr(str),repr(url))) + + if not str: + return "" + str=str.rstrip().lstrip() if url and str: @@ -572,7 +532,9 @@ class ZSQLExtendFolder(Folder,Persistent retStr+="""%s
"""%(strUrl,word) str=retStr if str: - return re.sub(r"[\n]","
",str) + retStr = re.sub(r"[\n]","
",str) + #logging.debug("formatascii out=%s"%(repr(retStr))) + return retStr else: return "" @@ -614,20 +576,29 @@ class ZSQLExtendFolder(Folder,Persistent """oinly for demo""" return os.path.splitext(path)[0]+".jpg" - def ZSQLisEmpty(self,field): - """Teste ob Treffer leer""" + def ZSQLisEmpty(self,str): + """Teste ob String leer bzw. none ist. + """ #print "field",field - if not field: + if not str: return 1 - if field.strip()=="": + if str.strip()=="": return 1 return 0 - def ZSQLMultiSearch(self,_table,_searchField,_value,_idField,_additionalStatement="",_select=None,_storename=None): + def ZSQLMultiSearch(self,_table,_searchField,_value,_idField,_additionalStatement="",_select=None,_subselectAddition="",_storename=None): """ Durchsucht in einer Tabelle "table" die Spalte "searchfield" nach dem allen Vorkommnissen - von Worten in value und gibt alle Werte mit gleichem id field zurŸck, d.h. es wird die "und" suche realisiert, + von Worten in value und gibt alle Werte mit gleichem id field zurŸck, d.h. es wird die "und" suche Ÿber mehrere Eintrsege in einer + Tabelle mit gleichem idField werd realisiert, z.B. fŸr simplesearch ueber mehrere Felder + @param _table: Tabelle, die durchsucht werden soll. + @param _searchField: Feld, das durchsucht wird + @param _value: String der gesucht werden soll, gesucht wird nach allen Worten des Strings, die durch " "-getrennt sind. + @param _idField: Feld mit id fŸr die identifikation gleicher EintrŠge + @param _additionalStatement: (optional) Zusaetzliches SQL Statement, dass zwischen dem ersten "select from" und dem ersten "where" eingegefŸgt wird. + @param _select: (optional) Alternativer Wert fŸr den ersten SELECT Aufruf. + @param _storename: (optional) Name fuer die Zwischenspeicherung von Werten in der Session """ if _storename: """store""" @@ -640,25 +611,24 @@ class ZSQLExtendFolder(Folder,Persistent if not _select: _select=_idField - queries.append("select %s from %s %s where %s like '%%%s%%'"%(_select,_table,_additionalStatement,_searchField,splitted[0])) + query="select %s from %s %s where lower(%s) like '%%%s%%'"%(_select,_table,_additionalStatement,_searchField,splitted[0].lower()) - if len(splitted)>1: + if len(splitted)>1: # mehr als ein Wort + query+=" and %s in"%_idField # dann einschraenken for v in splitted[1:]: - queries.append("select %s from %s where %s like '%%%s%%'"%(_idField,_table,_searchField,v)) + queries.append("select %s from %s %s where lower(%s) like '%%%s%%'"%(_idField,_table,_subselectAddition,_searchField,v.lower())) - q=" and %s in ("%_idField - query=q.join(queries) # nun baue sie zusammen - for i in range(len(queries)-1): - query+=")" #noch die klammern schliessen + intersect=" intersect ".join(queries) # nun baue sie zusammen + query+="(%s)"%intersect - if _additionalStatement: - query=query+" " logging.info("ZSQLSimple: %s"%query) retT=self.ZSQLSimpleSearch(query) logging.info("ZSQLSimple: %s"%retT) + #das Ergebis enthaelt unter u.U. eine id mehrfach, dieses wir jetzt vereinheitlicht. + retFinalT={} for x in retT: split=_idField.split(".") @@ -672,7 +642,7 @@ class ZSQLExtendFolder(Folder,Persistent ret=list(retFinalT.values()) - + #aus Kompatibilaetsgruenen mit ZSQLSearch / ZSQLInlineSeach noch einzelne Felder in der SESSION belegen. if not self.REQUEST.SESSION.has_key(_storename): self.REQUEST.SESSION[_storename]={} @@ -692,7 +662,12 @@ class ZSQLExtendFolder(Folder,Persistent return ret def ZSQLSelectionFromCRList(self,fieldname,listField,boxType="checkbox",checked=None): - """generate select options from a cr seperated list""" + """generate selection HTML Fragemnt from a cr seperated list + @param fieldname: Wert fuer das "name"-Attribute der erzeugten input-Tags + @param listField: "cr" (\n) getrennte Liste der Werte + @param boxType: (optional) default ist "checkbox", moegliche Werte "checkbox" und "radio" + @param checked: "cr" getrennt Liste von Werten aus listField, die als ausgewahlt markiert werden sollen. + """ fields=listField.split("\n") ret="" for field in fields: @@ -703,7 +678,14 @@ class ZSQLExtendFolder(Folder,Persistent return ret def ZSQLSelectionFromSearchList(self,fieldname,results,fieldnameResult,boxType="checkbox",checked=None): - """generate select options from a cr seperated list""" + """generate select options from research-results Objekt + generate selection HTML Fragemnt from a cr seperated list + @param fieldname: Wert fuer das "name"-Attribute der erzeugten input-Tags + @param results: result Object einer SQL-suche + @param fieldNameResult: Feldname des Resultobjekts, das angezeigt werden soll. + @param boxType: (optional) default ist "checkbox", moegliche Werte "checkbox" und "radio" + @param checked: "cr" getrennt Liste von Werten aus results.fieldNameResult, die als ausgewahlt markiert werden sollen. + """ ret="" if not results: return "" @@ -925,11 +907,14 @@ class ZSQLExtendFolder(Folder,Persistent if (hasattr(self,"_v_searchSQL") and (self._v_searchSQL == None)) or (not hasattr(self,"_v_searchSQL")): self._v_searchSQL=Shared.DC.ZRDB.DA.DA("_v_searchSQL","_v_searchSQL",self.getConnectionObj().getId(),"var","") + #self._v_searchSQL=self.getConnectionObj()() self._v_searchSQL.max_rows_=max_rows + #self._v_searchSQL.set_client_encoding('UNICODE') try: logging.error("I am here") t=self._v_searchSQL.__call__(var=query) + #t=self._v_searchSQL.query(query) logging.error("I am here %s"%t) return t except : @@ -943,8 +928,10 @@ class ZSQLExtendFolder(Folder,Persistent try: self._v_searchSQL.max_rows_=max_rows - + #self._v_searchSQL.set_client_encoding('UNICODE') + return self._v_searchSQL.__call__(var=query) + #return self._v_searchSQL.query(query) except : logger("ZSQLSimpleSearch ERROR2",logging.ERROR, '%s %s'%sys.exc_info()[:2]) if sys.exc_info()[0]=="Database Error": @@ -2094,4 +2081,4 @@ def manage_addZSQLBibliography(self, id, - \ No newline at end of file +