X-Git-Url: https://git.mdrn.pl/librarian.git/blobdiff_plain/5264de6515d8e9db8c6aa3c50275c8d7ec53cfd6..be641fe5a98107edfe4fa423337c0bf8a06a9a4b:/librarian/text.py diff --git a/librarian/text.py b/librarian/text.py index a6acd8a..a600b71 100644 --- a/librarian/text.py +++ b/librarian/text.py @@ -3,7 +3,7 @@ # This file is part of Librarian, licensed under GNU Affero GPLv3 or later. # Copyright © Fundacja Nowoczesna Polska. See NOTICE for more information. # -from librarian import dcparser, parser +from librarian import dcparser, parser, functions from lxml import etree import cStringIO import codecs @@ -11,14 +11,9 @@ import os import re -ENTITY_SUBSTITUTIONS = [ - (u'---', u'—'), - (u'--', u'–'), - (u'...', u'…'), - (u',,', u'„'), - (u'"', u'”'), -] - +functions.reg_substitute_entities() +functions.reg_wrap_words() +functions.reg_strip() TEMPLATE = u"""\ Kodowanie znaków w dokumencie: UTF-8. @@ -27,6 +22,8 @@ Publikacja zrealizowana w ramach projektu Wolne Lektury (http://wolnelektury.pl/ Bibliotekę Narodową z egzemplarza pochodzącego ze zbiorów BN. \n%(license_description)s. +%(source)s + Wersja lektury w opracowaniu merytorycznym i krytycznym (przypisy i motywy) dostępna jest na stronie %(url)s. ----- @@ -35,51 +32,6 @@ Wersja lektury w opracowaniu merytorycznym i krytycznym (przypisy i motywy) dost %(text)s """ - -def strip(context, text): - """Remove unneeded whitespace from beginning and end""" - if isinstance(text, list): - text = ''.join(text) - return re.sub(r'\s+', ' ', text).strip() - - -def substitute_entities(context, text): - """XPath extension function converting all entites in passed text.""" - if isinstance(text, list): - text = ''.join(text) - for entity, substitutution in ENTITY_SUBSTITUTIONS: - text = text.replace(entity, substitutution) - return text - - -def wrap_words(context, text, wrapping): - """XPath extension function automatically wrapping words in passed text""" - if isinstance(text, list): - text = ''.join(text) - if not wrapping: - return text - - words = re.split(r'\s', text) - - line_length = 0 - lines = [[]] - for word in words: - line_length += len(word) + 1 - if line_length > wrapping: - # Max line length was exceeded. We create new line - lines.append([]) - line_length = len(word) - lines[-1].append(word) - return '\n'.join(' '.join(line) for line in lines) - - -# Register substitute_entities function with lxml -ns = etree.FunctionNamespace('http://wolnelektury.pl/functions') -ns['strip'] = strip -ns['substitute_entities'] = substitute_entities -ns['wrap_words'] = wrap_words - - def transform(input_filename, output_filename, is_file=True, parse_dublincore=True, **options): """Transforms file input_filename in XML to output_filename in TXT.""" # Parse XSLT @@ -99,18 +51,21 @@ def transform(input_filename, output_filename, is_file=True, parse_dublincore=Tr parsed_dc = dcparser.parse(input_filename) url = parsed_dc.url license_description = parsed_dc.license_description - license = parsed_dc.license + license = parsed_dc.license if license: license_description = u"Ten utwór jest udostepniony na licencji %s: \n%s" % (license_description, license) else: - license_description = u"Ten utwór nie jest chroniony prawem autorskim i znajduje się w domenie publicznej, co oznacza, że możesz go swobodnie wykorzystywać, publikować i rozpowszechniać" + license_description = u"Ten utwór nie jest chroniony prawem autorskim i znajduje się w domenie publicznej, co oznacza, że możesz go swobodnie wykorzystywać, publikować i rozpowszechniać" + source = parsed_dc.source_name else: url = '*' * 10 license = "" license_description = "" + source = "" output_file.write(TEMPLATE % { 'url': url, - 'license_description': license_description, + 'license_description': license_description, 'text': unicode(result), + 'source': source, })