src/catalogue/api/tojson.py

   1 from collections import defaultdict
   2 import json
   3 import re
   4 from sys import argv
   5 from lxml import etree
   6
   7 tags = {
   8     'utwor': ('_pass', False, None, None, None),
   9     '{http://www.w3.org/1999/02/22-rdf-syntax-ns#}RDF': ('_ignore', False, None, None, None),
  10     'abstrakt': ('_ignore', False, None, None, None),
  11     'uwaga': ('_ignore', False, None, None, None),
  12     'extra': ('_ignore', False, None, None, None),
  13     'nota_red': ('_ignore', False, None, None, None),
  14     'numeracja': ('_ignore', False, None, None, None),
  15
  16     'powiesc': ('master', False, None, None, None),
  17     'opowiadanie': ('master', False, None, None, None),
  18     'liryka_lp': ('master', False, None, None, None),
  19     'liryka_l': ('master', False, None, None, None),
  20     'dramat_wspolczesny': ('master', False, None, None, None),
  21     'dramat_wierszowany_lp': ('master', False, None, None, None),
  22     'dramat_wierszowany_l': ('master', False, None, None, None),
  23
  24     'dlugi_cytat': ('blockquote', False, None, None, None),
  25     'poezja_cyt': ('blockquote', False, None, None, None),
  26     'dlugi_cyt': ('blockquote', False, None, None, None),
  27     'ramka': ('blockquote', False, {'class': 'ramka'}, None, None),
  28
  29     'blok': ('div', False, None, None, None),
  30
  31     'strofa': ('div', True, {'class': 'stanza'}, None, None),
  32     'wers': ('div', True, {'class': 'verse'}, None, None),
  33     'wers_wciety': ('div', True, {'class': 'wers_wciety'}, None, None),
  34     'wers_cd': ('div', True, {'class': 'wers_cd'}, None, None),
  35     'wers_akap': ('div', True, {'class': 'wers_akap'}, None, None),
  36     'zastepnik_wersu': ('div', True, {'class': 'zastepnik_wersu'}, None, None),
  37     'wers_do_prawej': ('div', True, {'class': 'wers_do_prawej'}, None, None),
  38     'wers_srodek': ('div', True, {'class': 'wers_srodek'}, None, None),
  39
  40     'autor_utworu': ('div', True, {'class': 'author'}, None, None),
  41     'dzielo_nadrzedne': ('div', True, {'class': 'dzielo_nadrzedne'}, None, None),
  42     'nazwa_utworu': ('div', True, {'class': 'title'}, None, None),
  43     'podtytul': ('div', True, {'class': 'podtytul'}, None, None),
  44
  45     'motto': ('div', False, {'class': 'motto'}, None, None),
  46     'motto_podpis': ('div', True, {'class': 'motto_podpis'}, None, None),
  47     'dedykacja': ('div', True, {'class': 'dedykacja'}, None, None),
  48     'miejsce_czas': ('div', True, {'class': 'miejsce_czas'}, None, None),
  49
  50     'lista_osob': ('div', False, {'class': 'lista_osob'}, None, None),
  51     'naglowek_listy': ('div', True, {'class': 'naglowek_listy'}, None, None),
  52     'lista_osoba': ('div', True, {'class': 'lista_osoba'}, None, None),
  53     'naglowek_osoba': ('div', True, {'class': 'naglowek_osoba'}, None, None),
  54     'osoba': ('em', True, {'class': 'osoba'}, None, None),
  55     'didaskalia': ('div', True, {'class': 'didaskalia'}, None, None),
  56     'kwestia': ('div', False, {'class': 'kwestia'}, None, None),
  57     'didask_tekst': ('em', False, {'class': 'didask_tekst'}, None, None),
  58
  59     'naglowek_czesc': ('h2', True, None, None, None),
  60     'naglowek_akt': ('h2', True, None, None, None),
  61     'naglowek_scena': ('h3', True, None, None, None),
  62     'naglowek_rozdzial': ('h3', True, None, None, None),
  63     'naglowek_podrozdzial': ('h4', True, None, None, None),
  64     'srodtytul': ('h5', True, None, None, None),
  65
  66     'nota': ('div', True, {'class': 'note'}, None, False),
  67
  68     'akap': ('p', True, {'class': 'paragraph'}, None, True),
  69     'akap_dialog': ('p', True, {'class': 'paragraph'}, None, True),
  70     'akap_cd': ('p', True, {'class': 'paragraph'}, None, True),
  71
  72     'sekcja_asterysk': ('p', True, {'class': 'spacer-asterisk'}, None, True),
  73     'sekcja_swiatlo': ('p', True, {'class': 'sekcja_swiatlo'}, None, True),
  74     'separator_linia': ('p', True, {'class': 'separator_linia'}, None, True),
  75
  76     'tytul_dziela': ('em', True, {'class': 'book-title'}, None, False),
  77     'slowo_obce': ('em', True, {'class': 'foreign-word'}, None, False),
  78     'wyroznienie': ('em', True, {'class': 'author-emphasis'}, None, False),
  79     'wieksze_odstepy': ('em', True, {'class': 'wieksze_odstepy'}, None, False),
  80
  81     'ref': ('a', True, {'class': 'reference'}, {'data-uri': 'href'}, False),
  82
  83     'begin': ('_ignore', True, {'class': 'reference'}, {'data-uri': 'href'}, False),
  84     'end': ('_ignore', True, {'class': 'reference'}, {'data-uri': 'href'}, False),
  85     'motyw': ('a', True, {'class': 'theme'}, None, False),
  86
  87     'pa': ('a', True, {'class': 'footnote footnote-pa'}, None, False),
  88     'pe': ('a', True, {'class': 'footnote footnote-pe'}, None, False),
  89     'pr': ('a', True, {'class': 'footnote footnote-pr'}, None, False),
  90     'pt': ('a', True, {'class': 'footnote footnote-pt'}, None, False),
  91     'ptrad': ('a', True, {'class': 'footnote footnote-ptrad'}, None, False),
  92 }
  93
  94 id_prefixes = {
  95     'pa': 'fn',
  96     'pe': 'fn',
  97     'pr': 'fn',
  98     'pt': 'fn',
  99     'ptrad': 'fn',
 100     }
 101
 102
 103 #tree = etree.parse(argv[1])
 104
 105 front1 = set([
 106     'dzielo_nadrzedne',
 107     'nazwa_utworu',
 108     'podtytul',
 109     ])
 110 front2 = set(['autor_utworu'])
 111
 112
 113 def norm(text):
 114     text = text.replace('---', '—').replace('--', '–').replace('...', '…').replace(',,', '„').replace('"', '”')
 115     return text
 116
 117
 118 def toj(elem, S):
 119     if elem.tag is etree.Comment: return []
 120     tag, hastext, attrs, attr_map, num = tags[elem.tag]
 121     contents = []
 122     if tag == '_pass':
 123         output = contents
 124     elif tag == '_ignore':
 125         return []
 126     else:
 127         output = {
 128             'tag': tag,
 129         }
 130         if num:
 131             S['index'] += 1
 132             output['paragraphIndex'] = S['index']
 133             if 'dlugi_cytat' not in S['stack'] and 'poezja_cyt' not in S['stack']:
 134                 S['vindex'] += 1
 135                 output['visibleNumber'] = S['vindex']
 136         id_prefix = id_prefixes.get(tag, 'i')
 137         S['id'][id_prefix] += 1
 138         output['id'] = id_prefix + str(S['id'][id_prefix])
 139         if attrs:
 140             output['attr'] = attrs.copy()
 141         if attr_map:
 142             output.setdefault('attr', {})
 143             for k, v in attr_map.items():
 144                 output['attr'][k] = elem.attrib[v]
 145         output['contents'] = contents
 146         output = [output]
 147     if elem.tag == 'strofa':
 148         verses = [etree.Element('wers')]
 149         if elem.text:
 150             vparts = re.split(r'/\s+', elem.text)
 151             for i, v in enumerate(vparts):
 152                 if i:
 153                     verses.append(etree.Element('wers'))
 154                 verses[-1].text = (verses[-1].text or '') + v
 155         for child in elem:
 156             vparts = re.split(r'/\s+', child.tail or '')
 157             child.tail = vparts[0]
 158             verses[-1].append(child)
 159             for v in vparts[1:]:
 160                 verses.append(etree.Element('wers'))
 161                 verses[-1].text = v
 162
 163         if not(len(verses[-1]) or (verses[-1].text or '').strip()):
 164             verses.pop()
 165
 166         elem.clear(keep_tail=True)
 167         for verse in verses:
 168             if len(verse) == 1 and (verse[0].tag.startswith('wers') or verse[0].tag == 'zastepnik_wersu') and not (verse[0].tail or '').strip():
 169                 elem.append(verse[0])
 170             else:
 171                 elem.append(verse)
 172
 173         #if not len(elem):
 174         #    for v in re.split(r'/\s+', elem.text):
 175         #        etree.SubElement(elem, 'wers').text = v
 176         #    elem.text = None
 177
 178     if hastext and elem.text:
 179         contents.append(norm(elem.text))
 180     for c in elem:
 181         S['stack'].append(elem.tag)
 182         contents += toj(c, S)
 183         if hastext and c.tail:
 184             contents.append(norm(c.tail))
 185         S['stack'].pop()
 186
 187     if elem.tag in front1:
 188         S['front1'] += output
 189         return []
 190     if elem.tag in front2:
 191         S['front2'] += output
 192         return []
 193     return output
 194
 195 def conv(tree):
 196     S = {
 197         'index': 0,
 198         'vindex': 0,
 199         'id': defaultdict(lambda: 0),
 200         'stack': [],
 201         'front1': [],
 202         'front2': [],
 203     }
 204     output = toj(tree.getroot(), S)
 205     if not len(output): return {}
 206     jt = output[0]
 207     jt['front1'] = S['front1']
 208     jt['front2'] = S['front2']
 209     return jt
 210
 211 #print(json.dumps(jt, indent=2, ensure_ascii=False))