some cleaning

[librarian.git] / librarian / text.py

diff --git a/librarian/text.py b/librarian/text.py
index 0754a99..28c36d3 100644 (file)
--- a/librarian/text.py
+++ b/librarian/text.py
@@ -1,29 +1,26 @@
 # -*- coding: utf-8 -*-
 # -*- coding: utf-8 -*-

-import os
+#
+# This file is part of Librarian, licensed under GNU Affero GPLv3 or later.
+# Copyright © Fundacja Nowoczesna Polska. See NOTICE for more information.
+#
+from librarian import dcparser, parser, functions
+from lxml import etree

 import cStringIO
 import cStringIO

-import re

 import codecs
 import codecs

+import os
+import re

 
 

-from lxml import etree
-
-from librarian import dcparser
-
-
-ENTITY_SUBSTITUTIONS = [
-    (u'---', u'—'),
-    (u'--', u'–'),
-    (u'...', u'…'),
-    (u',,', u'„'),
-    (u'"', u'”'),
-]

 
 

+functions.reg_substitute_entities()
+functions.reg_wrap_words()
+functions.reg_strip()

 
 TEMPLATE = u"""\
 Kodowanie znaków w dokumencie: UTF-8.
 -----
 
 TEMPLATE = u"""\
 Kodowanie znaków w dokumencie: UTF-8.
 -----

-Publikacja zrealizowana w ramach projektu Wolne Lektury (http://wolnelektury.pl/). Reprodukcja cyfrowa wykonana przez
-Bibliotekę Narodową z egzemplarza pochodzącego ze zbiorów BN. Ten utwór nie jest chroniony prawem autorskim i znajduje
-się w domenie publicznej, co oznacza, że możesz go swobodnie wykorzystywać, publikować i rozpowszechniać.
+%(description)s 
+
+%(license_description)s.%(source)s

 
 Wersja lektury w opracowaniu merytorycznym i krytycznym (przypisy i motywy) dostępna jest na stronie %(url)s.
 -----
 
 Wersja lektury w opracowaniu merytorycznym i krytycznym (przypisy i motywy) dostępna jest na stronie %(url)s.
 -----


@@ -33,67 +30,47 @@ Wersja lektury w opracowaniu merytorycznym i krytycznym (przypisy i motywy) dost
 %(text)s
 """
 
 %(text)s
 """
 

-
-def strip(context, text):
-    """Remove unneeded whitespace from beginning and end"""
-    if isinstance(text, list):
-        text = ''.join(text)
-    return re.sub(r'\s+', ' ', text).strip()
-
-
-def substitute_entities(context, text):
-    """XPath extension function converting all entites in passed text."""
-    if isinstance(text, list):
-        text = ''.join(text)
-    for entity, substitutution in ENTITY_SUBSTITUTIONS:
-        text = text.replace(entity, substitutution)
-    return text
-
-
-def wrap_words(context, text, wrapping):
-    """XPath extension function automatically wrapping words in passed text"""
-    if isinstance(text, list):
-        text = ''.join(text)
-    if not wrapping:
-        return text
-    
-    words = re.split(r'\s', text)
-    
-    line_length = 0
-    lines = [[]]
-    for word in words:
-        line_length += len(word) + 1
-        if line_length > wrapping:
-            # Max line length was exceeded. We create new line
-            lines.append([])
-            line_length = len(word)
-        lines[-1].append(word)
-    return '\n'.join(' '.join(line) for line in lines)
-
-
-# Register substitute_entities function with lxml
-ns = etree.FunctionNamespace('http://wolnelektury.pl/functions')
-ns['strip'] = strip
-ns['substitute_entities'] = substitute_entities
-ns['wrap_words'] = wrap_words
-
-
-def transform(input_filename, output_filename, **options):
+def transform(input_filename, output_filename, is_file=True, parse_dublincore=True, **options):

     """Transforms file input_filename in XML to output_filename in TXT."""
     # Parse XSLT
     """Transforms file input_filename in XML to output_filename in TXT."""
     # Parse XSLT

-    style_filename = os.path.join(os.path.dirname(__file__), 'book2txt.xslt')
+    style_filename = os.path.join(os.path.dirname(__file__), 'xslt/book2txt.xslt')

     style = etree.parse(style_filename)
 
     if is_file:
     style = etree.parse(style_filename)
 
     if is_file:

-        document = WLDocument.from_file(input, True)
+        document = parser.WLDocument.from_file(input_filename, True, parse_dublincore=parse_dublincore)

     else:
     else:

-        document = WLDocument.from_string(input, True)
+        document = parser.WLDocument.from_string(input_filename, True, parse_dublincore=parse_dublincore)

 
     result = document.transform(style, **options)
 
     output_file = codecs.open(output_filename, 'wb', encoding='utf-8')
 
     result = document.transform(style, **options)
 
     output_file = codecs.open(output_filename, 'wb', encoding='utf-8')

+
+    if parse_dublincore:
+        parsed_dc = dcparser.parse(input_filename)
+        description = parsed_dc.description
+        url = parsed_dc.url
+        license_description = parsed_dc.license_description
+        license = parsed_dc.license
+        if license:
+            license_description = u"Ten utwór jest udostepniony na licencji %s: \n%s" % (license_description, license)        
+        else:
+            license_description = u"Ten utwór nie jest chroniony prawem autorskim i znajduje się w domenie publicznej, co oznacza, że możesz go swobodnie wykorzystywać, publikować i rozpowszechniać"
+        source = parsed_dc.source_name
+        if source:
+            source = "\n\nNa podstawie: " + source
+        else:
+            source = ''
+    else:
+        description = 'Publikacja zrealizowana w ramach projektu Wolne Lektury (http://wolnelektury.pl).'
+        url = '*' * 10
+        license = ""
+        license_description = ""
+        source = ""

     output_file.write(TEMPLATE % {
     output_file.write(TEMPLATE % {

-        'url': dcparser.parse(input_filename).url,
+        'description': description,
+        'url': url,
+        'license_description': license_description,

         'text': unicode(result),
         'text': unicode(result),

+        'source': source,

     })
 
     })