--- ZSQLExtend/ZSQLExtend.py 2007/04/19 20:29:59 1.112
+++ ZSQLExtend/ZSQLExtend.py 2007/07/31 11:28:48 1.118
@@ -56,6 +56,27 @@ def analyseIntSearch(word):
else:
return "BETWEEN "+splitted[0]+" AND "+splitted[1]
+def unicodify(str):
+ """decode str (utf-8 or latin-1 representation) into unicode object"""
+ if not str:
+ return u""
+ if type(str) is StringType:
+ try:
+ return str.decode('utf-8')
+ except:
+ return str.decode('latin-1')
+ else:
+ return str
+
+def utf8ify(str):
+ """encode unicode object or string into byte string in utf-8 representation"""
+ if not str:
+ return ""
+ if type(str) is StringType:
+ return str
+ else:
+ return str.encode('utf-8')
+
def sql_quote(v):
@@ -88,7 +109,9 @@ class ZSQLIndex(SimpleItem):
return self.index
class ZSQLExtendFolder(Folder,Persistent, Implicit):
- """Folder"""
+ """Klasse die Methoden fuer die Abfrage einer SQL-Datenbank zur Verfuegung stellt.
+
+ """
meta_type="ZSQLExtendFolder"
def ZSQLQuote(self,str):
@@ -97,17 +120,25 @@ class ZSQLExtendFolder(Folder,Persistent
def normalizeField(self,table,fieldname, newFieldName=None,mode="alter", RESPONSE=None):
- """normalize a field"""
+ """normalize a field, d.h. entfernt alle diakritischen Zeichen und ersetzt diese
+ durch den Grundbuchstaben in einer Spalte einer Tabelle
+ @param table: Tabellename
+ @param fieldname: Name der Spalte
+ @param newFieldName: (optional) default ist fieldname+"_normal"
+ @param mode: (optional) default ist "alter". Mode "alter" aendert ein bestehendes Feld newFieldName, mode "create" erzeugt diese zuerst.
+ """
import unicodedata
if not newFieldName:
newFieldName=fieldname+"_normal"
-
+
+ #normalisierungs routine
def normal(str):
if str:
return unicodedata.normalize('NFKD', str.decode('utf-8')).encode('ASCII', 'ignore')
else:
return ""
+
if mode=="create": # create the field
qstr="""alter table %s add %s %s"""
self.ZSQLSimpleSearch(qstr%(table,newFieldName,'text'))
@@ -304,9 +335,8 @@ class ZSQLExtendFolder(Folder,Persistent
logger("update xml",logging.INFO,queryStr)
self.ZSQLSimpleSearch(queryStr)
ret+="ud: %s \n"%field
- else:
-
+ else:
fields=",".join(dataSet.keys())
values=",".join([""" %s """%self.ZSQLQuote(dataSet[x]) for x in dataSet.keys()])
@@ -315,101 +345,12 @@ class ZSQLExtendFolder(Folder,Persistent
self.ZSQLSimpleSearch(queryStr)
logger("update xml",logging.INFO,queryStr)
-
-
-
return ret
- def importXMLFile(self,table,containerTagName,fieldNames,data=None,identify=None,filename=None,RESPONSE=None):
- #TODO: finish importXMLFile
- '''
- Import XML file into the table
- @param table: name of the table the xml shall be imported into
- @param containerTagName: XML-Tag which describes a dataset
- @param file: xmlfile handle
- @param identify: (optional) field res. tag which identifies a entry uniquely for updating purposes.
- @param RESPONSE: (optional)
- '''
- ret=""
- from xml.dom.pulldom import parseString
-
- doc=parseString(file.read())
- while 1:
- node=doc.getEvent()
-
- if node is None:
- break;
- else:
- if node[1].nodeName==containerTagName:
- doc.expandNode(node[1])
- cols=node[1].getElementsByTagName('COL')
- dataSet=[]
- for col in cols:
- data=col.getElementsByTagName('DATA')
- dataSet.append(getTextFromNode(data[0]))
- update=False
- if identify:
-
- nr=fieldNames.index(identify)
- field=dataSet[nr]
-
- searchStr="""select %s from %s where %s = '%s'"""%(identify,table,identify,field)
- logger("import xml",logging.INFO,searchStr)
- search=self.ZSQLSimpleSearch(searchStr)
- if search:
- update=True
-
- if update:
- tmp=[]
- for fieldName in fieldNames:
- tmp.append("""%s = %s"""%(fieldName,self.ZSQLQuote(dataSet[fieldNames.index(fieldName)])))
- setStr=",".join(tmp)
- nr=fieldNames.index(identify)
- field=dataSet[nr]
-
- queryStr="""UPDATE %s SET %s WHERE %s = '%s' """%(table,setStr,identify,field)
- logger("update xml",logging.INFO,queryStr)
- self.ZSQLSimpleSearch(queryStr)
- ret+="ud: %s \n"%field
- else:
-
-
- fields=",".join(fieldNames)
- values=",".join([""" %s """%self.ZSQLQuote(x) for x in dataSet])
-
-
- queryStr="""INSERT INTO %s (%s) VALUES (%s)"""%(table,fields,values)
- self.ZSQLSimpleSearch(queryStr)
- logger("update xml",logging.INFO,queryStr)
- ret+="ad: %s \n"%field
-
- elif node[1].nodeName=="METADATA":
- fieldNames=[]
- doc.expandNode(node[1])
-
- names=node[1].getElementsByTagName('FIELD')
-
- for name in names:
- fieldNames.append(name.getAttribute('NAME'))
-
- logger("update xml: fieldnames",logging.INFO,repr(fieldNames))
- qstr="""select attname from pg_attribute, pg_class where attrelid = pg_class.oid and relname = '%s' """
- columns=[x.attname for x in self.ZSQLSimpleSearch(qstr%table)]
-
- for fieldName in fieldNames:
- logger("update xml: fieldname",logging.INFO,repr(fieldName))
- if fieldName not in columns:
- qstr="""alter table %s add %s %s"""
- self.ZSQLSimpleSearch(qstr%(table,fieldName,'text'))
- logger("update xml: fieldname add",logging.INFO,qstr%(table,fieldName,'text'))
- #fn=node[1].getAttribute("xml:id")
- #nf=file("xtf/"+fn+".xtf",'w')
- #nf.write(""""""+node[1].toxml()+"")
- #print "wrote: %s"%fn
-
-
- def importXMLFileFMP(self,table,dsn=None,uploadfile=None,update_fields=None,id_field=None,sync_mode=False,replace=False,redirect_url=None,ascii_db=False,RESPONSE=None):
+ def importXMLFileFMP(self,table,dsn=None,uploadfile=None,update_fields=None,id_field=None,sync_mode=False,
+ lc_names=True,keep_fields=False,ascii_db=False,replace=False,backup=False,
+ redirect_url=None,RESPONSE=None):
'''
Import FileMaker XML file (FMPXMLRESULT format) into the table.
@param dsn: database connection string
@@ -418,13 +359,18 @@ class ZSQLExtendFolder(Folder,Persistent
@param update_fields: (optional) list of fields to update; default is to create all fields
@param id_field: (optional) field which uniquely identifies an entry for updating purposes.
@param sync_mode: (optional) really synchronise, i.e. delete entries not in XML file
+ @param lc_names: (optional) lower case and clean up field names from XML
+ @param keep_fields: (optional) don't add fields to SQL database
+ @param ascii_db: (optional) assume ascii encoding in db
+ @param replace: (optional) delete and re-insert data
+ @param backup: (optional) create backup of old table (breaks indices)
@param RESPONSE: (optional)
@param redirect_url: (optional) url for redirecting after the upload is done
'''
tfilehd,filename=tempfile.mkstemp()
tfile=os.fdopen(tfilehd,'w')
- logging.error("import %s"%uploadfile)
+ logging.info("import %s"%uploadfile)
for c in uploadfile.read():
tfile.write(c)
tfile.close()
@@ -441,20 +387,30 @@ class ZSQLExtendFolder(Folder,Persistent
options.update_fields=update_fields
options.id_field=id_field
options.sync_mode=sync_mode
+ options.lc_names=lc_names
+ options.replace_table=replace
+ options.keep_fields=keep_fields
+ options.ascii_db=ascii_db
options.replace_table=replace
- options.lc_names=True
- options.ascii_db=ascii_db
+ options.backup_table=backup
+
importFMPXML(options)
os.remove(filename)
if RESPONSE and redirect_url:
RESPONSE.redirect(redirect_url)
+
def generateIndex(self,field,index_name,table,RESPONSE=None):
- """erzeuge index aus feld"""
+ """erzeuge ein Index Objekt einem Feld (experimental)
+ @param field: Feldname zu dem ein Index erzeugt werden soll
+ @param index_name: Name des Index
+ @param table: Tabellen name"""
+
+
index={}
- founds=self.ZSQLSimpleSearch("""SELECT %s,oid FROM %s LIMIT 2000"""%(field,table))
+ founds=self.ZSQLSimpleSearch("""SELECT %s,oid FROM %s """%(field,table))
for found in founds:
tmp=getattr(found,field,None)
@@ -474,26 +430,23 @@ class ZSQLExtendFolder(Folder,Persistent
self._getOb(index_name).setIndex(index)
def getIndex(self,index_name):
- """getIndex"""
+ """getIndex from index_name
+ return an indexObject with index_name
+ """
+
founds=self.ZopeFind(self,obj_ids=[index_name])
return founds[0][1].getIndex()
- def testneu(self):
- """test"""
- relStatement="""period like '%s%%'"""
- statement="select * from cdli_cat"
- wherePart="museum_no like 'VAT%'"
- classes=['Uruk III','Uruk IV']
- return self.searchRel(relStatement,statement,wherePart,classes)
-
def URLquote(self,txt):
- """urlquote"""
+ """urlquote"
+ @param txt: text der urlgequoted werden soll.
+ """
return urllib.quote(txt)
def searchRel(self,relStatement,statement,wherePart,classes):
- """suche relative haufigkeiten"""
+ """suche relative haufigkeiten (experimental)"""
ret={}
allRecords=len(self.ZSQLSimpleSearch(statement + " where "+wherePart))
@@ -503,7 +456,7 @@ class ZSQLExtendFolder(Folder,Persistent
return (ret,allRecords)
def content_html(self):
- """template fuer content"""
+ """template fuer content_html Aufruf, notwendig fuer Kompatibiliaet bei gemeinsamem Einsatz mich ECHO-Produkt"""
try:
obj=getattr(self,"ZSQLBibliography_template")
@@ -516,21 +469,21 @@ class ZSQLExtendFolder(Folder,Persistent
def getWeight(self):
- """getLabe"""
+ """getWeight, gewicht notwendig fuer Kompatibiliaet bei gemeinsamem Einsatz mich ECHO-Produkt"""
try:
return self.weight
except:
return ""
def getLabel(self):
- """getLabe"""
+ """getLabel notwendig fuer Kompatibiliaet bei gemeinsamem Einsatz mich ECHO-Produkt"""
try:
return self.label
except:
return ""
def getDescription(self):
- """getLabe"""
+ """getDEscription: notwendig fuer Kompatibiliaet bei gemeinsamem Einsatz mich ECHO-Produkt"""
try:
return self.description
except:
@@ -547,7 +500,7 @@ class ZSQLExtendFolder(Folder,Persistent
def changeZSQLExtend(self,label,description,weight=0,REQUEST=None,connection_id=None):
- """change it"""
+ """change the Konfiguration"""
self.connection_id=connection_id
self.weight=weight
self.label=label
@@ -557,8 +510,15 @@ class ZSQLExtendFolder(Folder,Persistent
return self.manage_main(self, REQUEST)
def formatAscii(self,str,url=None):
- """ersetze ascii umbrueche durch
"""
- #url=None
+ """ersetze ascii umbrueche durch
+ @param str: string der Formatiert werden soll.
+ @param url: (optional) default ist "None", sonderfall erzeugt einen Link aus String mit unterliegender url
+ """
+ #logging.debug("formatascii str=%s url=%s"%(repr(str),repr(url)))
+
+ if not str:
+ return ""
+
str=str.rstrip().lstrip()
if url and str:
@@ -572,7 +532,9 @@ class ZSQLExtendFolder(Folder,Persistent
retStr+="""%s
"""%(strUrl,word)
str=retStr
if str:
- return re.sub(r"[\n]","
",str)
+ retStr = re.sub(r"[\n]","
",str)
+ #logging.debug("formatascii out=%s"%(repr(retStr)))
+ return retStr
else:
return ""
@@ -614,20 +576,29 @@ class ZSQLExtendFolder(Folder,Persistent
"""oinly for demo"""
return os.path.splitext(path)[0]+".jpg"
- def ZSQLisEmpty(self,field):
- """Teste ob Treffer leer"""
+ def ZSQLisEmpty(self,str):
+ """Teste ob String leer bzw. none ist.
+ """
#print "field",field
- if not field:
+ if not str:
return 1
- if field.strip()=="":
+ if str.strip()=="":
return 1
return 0
- def ZSQLMultiSearch(self,_table,_searchField,_value,_idField,_additionalStatement="",_select=None,_storename=None):
+ def ZSQLMultiSearch(self,_table,_searchField,_value,_idField,_additionalStatement="",_select=None,_subselectAddition="",_storename=None):
"""
Durchsucht in einer Tabelle "table" die Spalte "searchfield" nach dem allen Vorkommnissen
- von Worten in value und gibt alle Werte mit gleichem id field zurŸck, d.h. es wird die "und" suche realisiert,
+ von Worten in value und gibt alle Werte mit gleichem id field zurŸck, d.h. es wird die "und" suche Ÿber mehrere Eintrsege in einer
+ Tabelle mit gleichem idField werd realisiert,
z.B. fŸr simplesearch ueber mehrere Felder
+ @param _table: Tabelle, die durchsucht werden soll.
+ @param _searchField: Feld, das durchsucht wird
+ @param _value: String der gesucht werden soll, gesucht wird nach allen Worten des Strings, die durch " "-getrennt sind.
+ @param _idField: Feld mit id fŸr die identifikation gleicher EintrŠge
+ @param _additionalStatement: (optional) Zusaetzliches SQL Statement, dass zwischen dem ersten "select from" und dem ersten "where" eingegefŸgt wird.
+ @param _select: (optional) Alternativer Wert fŸr den ersten SELECT Aufruf.
+ @param _storename: (optional) Name fuer die Zwischenspeicherung von Werten in der Session
"""
if _storename:
"""store"""
@@ -640,25 +611,24 @@ class ZSQLExtendFolder(Folder,Persistent
if not _select:
_select=_idField
- queries.append("select %s from %s %s where %s like '%%%s%%'"%(_select,_table,_additionalStatement,_searchField,splitted[0]))
+ query="select %s from %s %s where lower(%s) like '%%%s%%'"%(_select,_table,_additionalStatement,_searchField,splitted[0].lower())
- if len(splitted)>1:
+ if len(splitted)>1: # mehr als ein Wort
+ query+=" and %s in"%_idField # dann einschraenken
for v in splitted[1:]:
- queries.append("select %s from %s where %s like '%%%s%%'"%(_idField,_table,_searchField,v))
+ queries.append("select %s from %s %s where lower(%s) like '%%%s%%'"%(_idField,_table,_subselectAddition,_searchField,v.lower()))
- q=" and %s in ("%_idField
- query=q.join(queries) # nun baue sie zusammen
- for i in range(len(queries)-1):
- query+=")" #noch die klammern schliessen
+ intersect=" intersect ".join(queries) # nun baue sie zusammen
+ query+="(%s)"%intersect
- if _additionalStatement:
- query=query+" "
logging.info("ZSQLSimple: %s"%query)
retT=self.ZSQLSimpleSearch(query)
logging.info("ZSQLSimple: %s"%retT)
+ #das Ergebis enthaelt unter u.U. eine id mehrfach, dieses wir jetzt vereinheitlicht.
+
retFinalT={}
for x in retT:
split=_idField.split(".")
@@ -672,7 +642,7 @@ class ZSQLExtendFolder(Folder,Persistent
ret=list(retFinalT.values())
-
+ #aus Kompatibilaetsgruenen mit ZSQLSearch / ZSQLInlineSeach noch einzelne Felder in der SESSION belegen.
if not self.REQUEST.SESSION.has_key(_storename):
self.REQUEST.SESSION[_storename]={}
@@ -692,7 +662,12 @@ class ZSQLExtendFolder(Folder,Persistent
return ret
def ZSQLSelectionFromCRList(self,fieldname,listField,boxType="checkbox",checked=None):
- """generate select options from a cr seperated list"""
+ """generate selection HTML Fragemnt from a cr seperated list
+ @param fieldname: Wert fuer das "name"-Attribute der erzeugten input-Tags
+ @param listField: "cr" (\n) getrennte Liste der Werte
+ @param boxType: (optional) default ist "checkbox", moegliche Werte "checkbox" und "radio"
+ @param checked: "cr" getrennt Liste von Werten aus listField, die als ausgewahlt markiert werden sollen.
+ """
fields=listField.split("\n")
ret=""
for field in fields:
@@ -703,7 +678,14 @@ class ZSQLExtendFolder(Folder,Persistent
return ret
def ZSQLSelectionFromSearchList(self,fieldname,results,fieldnameResult,boxType="checkbox",checked=None):
- """generate select options from a cr seperated list"""
+ """generate select options from research-results Objekt
+ generate selection HTML Fragemnt from a cr seperated list
+ @param fieldname: Wert fuer das "name"-Attribute der erzeugten input-Tags
+ @param results: result Object einer SQL-suche
+ @param fieldNameResult: Feldname des Resultobjekts, das angezeigt werden soll.
+ @param boxType: (optional) default ist "checkbox", moegliche Werte "checkbox" und "radio"
+ @param checked: "cr" getrennt Liste von Werten aus results.fieldNameResult, die als ausgewahlt markiert werden sollen.
+ """
ret=""
if not results: return ""
@@ -925,11 +907,14 @@ class ZSQLExtendFolder(Folder,Persistent
if (hasattr(self,"_v_searchSQL") and (self._v_searchSQL == None)) or (not hasattr(self,"_v_searchSQL")):
self._v_searchSQL=Shared.DC.ZRDB.DA.DA("_v_searchSQL","_v_searchSQL",self.getConnectionObj().getId(),"var","")
+ #self._v_searchSQL=self.getConnectionObj()()
self._v_searchSQL.max_rows_=max_rows
+ #self._v_searchSQL.set_client_encoding('UNICODE')
try:
logging.error("I am here")
t=self._v_searchSQL.__call__(var=query)
+ #t=self._v_searchSQL.query(query)
logging.error("I am here %s"%t)
return t
except :
@@ -943,8 +928,10 @@ class ZSQLExtendFolder(Folder,Persistent
try:
self._v_searchSQL.max_rows_=max_rows
-
+ #self._v_searchSQL.set_client_encoding('UNICODE')
+
return self._v_searchSQL.__call__(var=query)
+ #return self._v_searchSQL.query(query)
except :
logger("ZSQLSimpleSearch ERROR2",logging.ERROR, '%s %s'%sys.exc_info()[:2])
if sys.exc_info()[0]=="Database Error":
@@ -2094,4 +2081,4 @@ def manage_addZSQLBibliography(self, id,
-
\ No newline at end of file
+