Android多媒体框架初步分析

Android 系统整体架构： 我们先看一下多媒体框架在整个Android系统所处的位置   从框架图可以看出Media Framework处于Libraries这一层，这层的Library不是用Java实现，一般是C/C++实现，它们通过Java的JNI方式调用。     多媒体架构： 基于第三方PacketVideo 公司的OpenCORE platform来实现 支持所有通用的音频，视频，静态图像格式 CODEC(编解码器)使用OpenMAX 1L interface 接口进行扩展，可以方便得支持hardware / software codec plug-ins 支持的格式包括：MPEG4、H.264、MP3、AAC、AMR、JPG、PNG、GIF等。 l      Open Core多媒体框架有一套通用可扩展的接口针对第三方的多媒体遍解码器，输入，输出设备等等 。 l      多媒体文件的播放，下载，包括3GPP, MPEG-4,AAC and MP3 containers l      流媒体文件的下载，实时播放，包括：3GPP, HTTP and RTSP/RTP l      动态视频和静态图像的编码，解码，例如：MPEG-4, H.263 and AVC (H.264), JPEG l      语音编码格式： AMR-NB and AMR-WB l      音乐编码格式： MP3, AAC, AAC+ l      视频和图像格式： 3GPP, MPEG-4 and JPEG l      视频会议：基于H324-M standard     图中用黄线圈出的是Media Framework       Open Core介绍： Open Core是Android 多媒体框架的核心，所有Android平台的音视频采集，播放的操作都是通过它来实现。它也被称为PV(Packet Video), Packet Video是一家专门提供多媒体解决方案的公司。 通过Open Core程序员可以方便快速的开发出想要的多媒体应用程序，例如：音视频的采集，回放，视频会议，实时的流媒体播放等等应用。   代码结构： Open Core 的代码在Android代码的 External/Opencore 目录中 。这个目录是OpenCore的根目录，其中包含的子目录如下所示： android：这里面是一个上层的库，它实现了一个为Android使用的音视频采集，播放的接口，和DRM数字版权管理的接口实现。 baselibs：包含数据结构和线程安全等内容的底层库 codecs_v2：音视频的编解码器，基于OpenMAX实现 engines：核心部分，多媒体引擎的实现 extern_libs_v2：包含了khronos的OpenMAX的头文件 fileformats：文件格式的解析（parser）工具 nodes：提供一些PVMF的NODE，主要是编解码和文件解析方面的。 oscl：操作系统兼容库 pvmi： 输入输出控制的抽象接口 protocols：主要是与网络相关的RTSP、RTP、HTTP等协议的相关内容 pvcommon：pvcommon库文件的Android.mk文件，没有源文件。 pvplayer：pvplayer库文件的Android.mk文件，没有源文件。 pvauthor：pvauthor库文件的Android.mk文件，没有源文件。 tools_v2：编译工具以及一些可注册的模块。 Open Core 上层代码结构 在实际开发中我们并不会过多的研究 Open Core的实现，Android提供了上层的Media API给开发人员使用，MediaPlayer和MediaRecorder Android Media APIs l      The Android platform is capable of playing both audio and video media. It is also capable of playing media contained in the resources for an application, or a standalone file in the filesystem, or even streaming media over a data connection. Playback is achieved through the android.media.MediaPlayer class. l      The Android platform can also record audio. Video recording capabilities are coming in the future. This is achieved through the android.media.MediaRecorder class.   Media Player 提供的基本接口如下： Public Methods static   MediaPlayer  create( Context context, Uri uri) Convenience method to create a MediaPlayer for a given Uri.    int  getCurrentPosition() Gets the current playback position.      int  getDuration() Gets the duration of the file.      int  getVideoHeight() Returns the height of the video.      int  getVideoWidth() Returns the width of the video.     boolean  isPlaying() Checks whether the MediaPlayer is playing.      void  pause() Pauses playback.      void  prepare() Prepares the player for playback, synchronously.      void  prepareAsync() Prepares the player for playback, asynchronously.      void  release() Releases resources associated with this MediaPlayer object.     void  reset() Resets the MediaPlayer to its uninitialized state.      void  seekTo(int msec) Seeks to specified time position.      void  setAudioStreamType(int streamtype) Sets the audio stream type for this MediaPlayer.      void  setDataSource( String path) Sets the data source (file-path or http/rtsp URL) to use.          void  setDisplay( SurfaceHolder sh) Sets the SurfaceHolder to use for displaying the video portion of the media.      void  setVolume(float leftVolume, float rightVolume) Sets the volume on this player.  void  start() Starts or resumes playback.      void  stop() Stops playback after playback has been stopped or paused.   我们可以看出MediaPlayer类提供了一个多媒体播放器的基本操作，播放，暂停，停止，设置音量等等。   简单的例子： Playing a File  MediaPlayer mp = new MediaPlayer();  mp.setDataSource(PATH_TO_FILE);    mp.prepare();    mp.start(); Playing a Raw Resource MediaPlayer mp = MediaPlayer.create(context, R.raw.sound_file_1); mp.start();     Media Recorder 提供的基本接口如下： Public Method: void  prepare() Prepares the recorder to begin capturing and encoding data.      void  release() Releases resources associated with this MediaRecorder object.      void  reset() Restarts the MediaRecorder to its idle state.      void  setAudioEncoder(int audio_encoder) Sets the audio encoder to be used for recording.      void  setAudioSource(int audio_source) Sets the audio source to be used for recording.      void  setOutputFile( String path) Sets the path of the output file to be produced.      void  setOutputFormat(int output_format) Sets the format of the output file produced during recording.      void  setPreviewDisplay( Surface sv) Sets a Surface to show a preview of recorded media (video).     void  start() Begins capturing and encoding data to the file specified with setOutputFile().      void  stop() Stops recording.   简单的例子： Example: MediaRecorder recorder = new MediaRecorder(); recorder.setAudioSource(MediaRecorder.AudioSource.MIC); recorder.setOutputFormat(MediaRecorder.OutputFormat.THREE_GPP); recorder.setAudioEncoder(MediaRecorder.AudioEncoder.AMR_NB); recorder.setOutputFile(PATH_NAME); recorder.prepare(); recorder.start(); // Recording is now started ... recorder.stop(); recorder.reset(); // You can reuse the object by going back to                                setAudioSource() step recorder.release(); // Now the object cannot be reused     整体的结构如下图所示：       l      MediaPlayer JNI 代码位置 /frameworks/base/media/jni l      MediaPlayer (Native) 代码位置 /frameworks/base/media/libmedia l      MediaPlayerService (Server) 代码位置 /frameworks/base/media/libmediaplayerservice l      MediaPlayerService Host Process 代码位置 /frameworks/base/media/mediaserver/main_mediaserver.cpp l      PVPlayer 代码位置 /external/opencore/android/   实际调用过程如下图所示：       实际调用过程如下图所示：

...