45ae9c107c0b28b64293962d0f07de377bf22a1e
[audio.git] / src / archive / tasks.py
1 from datetime import datetime
2 import errno
3 import mimetypes
4 import os
5 import os.path
6 import pipes
7 import stat
8 import subprocess
9 from tempfile import NamedTemporaryFile
10 from time import sleep
11
12 from celery.task import Task
13 from django.db.models import F
14 from django.contrib.auth.models import User
15 from mutagen import File
16 from mutagen import id3
17
18 from apiclient import api_call
19 from archive.constants import status
20 from archive.models import Audiobook
21 from archive.settings import BUILD_PATH, COVER_IMAGE, UPLOAD_URL
22 from archive.utils import ExistingFile
23
24
25 class AudioFormatTask(Task):
26     abstract = True
27
28     class RemoteOperationError(BaseException):
29         pass
30
31     @classmethod
32     def set_status(cls, aid, status):
33         Audiobook.objects.filter(pk=aid).update(
34             **{'%s_status' % cls.prefix: status})
35
36     @staticmethod
37     def encode(in_path, out_path):
38         raise NotImplemented
39
40     @classmethod
41     def set_tags(cls, audiobook, file_name):
42         tags = getattr(audiobook, "get_%s_tags" % cls.prefix)()['tags']
43         if not tags.get('flac_sha1'):
44             tags['flac_sha1'] = audiobook.get_source_sha1()
45         audio = File(file_name)
46         for k, v in tags.items():
47             audio[k] = v
48         audio.save()
49
50     @classmethod
51     def save(cls, audiobook, file_name):
52         field = "%s_file" % cls.prefix
53         getattr(audiobook, field).save(
54             "%d.%s" % (audiobook.pk, cls.ext),
55             ExistingFile(file_name),
56             save=False
57             )
58         os.chmod(getattr(audiobook, field).path, stat.S_IREAD|stat.S_IWRITE|stat.S_IRGRP|stat.S_IROTH)
59         Audiobook.objects.filter(pk=audiobook.pk).update(
60             **{field: getattr(audiobook, field)})
61
62     @classmethod
63     def published(cls, aid):
64         kwargs = {
65             "%s_published_tags" % cls.prefix: F("%s_tags" % cls.prefix),
66             "%s_tags" % cls.prefix: None,
67             "%s_published" % cls.prefix: datetime.now(),
68             '%s_status' % cls.prefix: None,
69         }
70         Audiobook.objects.filter(pk=aid).update(**kwargs)
71
72     @classmethod
73     def put(cls, user, audiobook, path):
74         tags = getattr(audiobook, "get_%s_tags" % cls.prefix)()
75         data = {
76             'book': tags['url'],
77             'type': cls.ext,
78             'name': tags['name'],
79             'part_name': audiobook.part_name,
80             'part_index': audiobook.index,
81             'parts_count': audiobook.parts_count,
82             'source_sha1': audiobook.source_sha1,
83         }
84         with open(path, 'rb') as f:
85             api_call(user, UPLOAD_URL, data=data, files={
86                 "file": f,
87             })
88
89     def run(self, uid, aid, publish=True):
90         aid = int(aid)
91         audiobook = Audiobook.objects.get(id=aid)
92         self.set_status(aid, status.ENCODING)
93
94         user = User.objects.get(id=uid)
95
96         if not os.path.exists(BUILD_PATH):
97             os.makedirs(BUILD_PATH)
98
99         out_file = NamedTemporaryFile(delete=False, prefix='%d-' % aid, suffix='.%s' % self.ext, dir=BUILD_PATH)
100         out_file.close()
101         self.encode(audiobook.source_file.path, out_file.name)
102         self.set_status(aid, status.TAGGING)
103         self.set_tags(audiobook, out_file.name)
104         self.set_status(aid, status.SENDING)
105
106         if publish:
107             self.put(user, audiobook, out_file.name)
108             self.published(aid)
109         else:
110             self.set_status(aid, None)
111
112         self.save(audiobook, out_file.name)
113
114     def on_failure(self, exc, task_id, args, kwargs, einfo):
115         aid = (args[0], kwargs.get('aid'))[0]
116         self.set_status(aid, None)
117
118
119 class Mp3Task(AudioFormatTask):
120     prefix = ext = 'mp3'
121
122     # these shouldn't be staticmethods
123     def id3_text(tag, text):
124         return tag(encoding=3, text=text)
125     def id3_url(tag, text):
126         return tag(url=text)
127     def id3_comment(tag, text, lang='pol'):
128         return tag(encoding=3, lang=lang, desc='', text=text)
129     def id3_priv(tag, text, what=''):
130         return tag(owner='wolnelektury.pl?%s' % what, data=text.encode('utf-8'))
131
132     TAG_MAP = {
133         'album': (id3_text, id3.TALB),
134         'albumartist': (id3_text, id3.TPE2),
135         'artist': (id3_text, id3.TPE1),
136         'conductor': (id3_text, id3.TPE3),
137         'copyright': (id3_text, id3.TCOP),
138         'date': (id3_text, id3.TDRC),
139         'genre': (id3_text, id3.TCON),
140         'language': (id3_text, id3.TLAN),
141         'organization': (id3_text, id3.TPUB),
142         'title': (id3_text, id3.TIT2),
143         'comment': (id3_comment, id3.COMM, 'pol'),
144         'contact': (id3_url, id3.WOAF),
145         'license': (id3_url, id3.WCOP),
146         'flac_sha1': (id3_priv, id3.PRIV, 'flac_sha1'),
147         'project': (id3_priv, id3.PRIV, 'project'),
148         'funded_by': (id3_priv, id3.PRIV, 'funded_by'),
149     }
150
151     @staticmethod
152     def encode(in_path, out_path):
153         # 44.1kHz 64kbps mono MP3
154         subprocess.check_call(['ffmpeg', 
155             '-i', in_path.encode('utf-8'),
156             '-ar', '44100',
157             '-ab', '64k',
158             '-ac', '1',
159             '-y',
160             '-acodec', 'libmp3lame',
161             out_path.encode('utf-8')
162             ])
163
164     @classmethod
165     def set_tags(cls, audiobook, file_name):
166         mp3_tags = audiobook.get_mp3_tags()['tags']
167         if not mp3_tags.get('flac_sha1'):
168             mp3_tags['flac_sha1'] = audiobook.get_source_sha1()
169         audio = id3.ID3(file_name)
170         for k, v in mp3_tags.items():
171             factory_tuple = cls.TAG_MAP[k]
172             factory, tagtype = factory_tuple[:2]
173             audio.add(factory(tagtype, v, *factory_tuple[2:]))
174
175         if COVER_IMAGE:
176             mime = mimetypes.guess_type(COVER_IMAGE)
177             with open(COVER_IMAGE, 'rb') as f:
178                 audio.add(id3.APIC(encoding=0, mime=mime, type=3, desc='', data=f.read()))
179
180         audio.save()
181
182
183 class OggTask(AudioFormatTask):
184     prefix = ext = 'ogg'
185
186     @staticmethod
187     def encode(in_path, out_path):
188         # 44.1kHz 64kbps mono Ogg Vorbis
189         subprocess.check_call(['ffmpeg', 
190             '-i', in_path.encode('utf-8'),
191             '-ar', '44100',
192             '-ab', '64k',
193             '-ac', '1',
194             '-y',
195             '-acodec', 'libvorbis',
196             out_path.encode('utf-8')
197             ])