流量を制御したい

システムのリソースを守りながらアプリケーションを開発するためには、処理量を制御する必要があります。
一般的な方法としては、いわゆる流量(実行並列度)を抑制する方法があります。
JavaEEを使った開発での流量制御は、Servletコンテナのスレッドプール数及びEJBのインスタンスプール数を設定する事で行います。
大雑把な流量制御としては、その機能で可能でしょう。

Nimbusでは、流量を制御するための基本機能として、セマフォを提供します。
このサービスを使う事で、単純なリソース数の制限に加え、FIFOでのリソース割り当てや、リソースが枯渇した場合の制御として、待機数の上限設定、タイムアウト、占有状態の強制解放タイムアウトなどの細かい制御が可能になります。

このセマフォを使って、様々な場所で流量制御を可能にします。

サーブレット層での流量制御

一般的には、サーブレット層では、Servletコンテナのスレッドプール数で流量を制御します。
設定方法や流量制御の方式は、アプリケーションサーバの実装に依存しますが、一般的には、HTTP接続を待ち受けるポート単位で、スレッドプール数の設定が可能で、その単位での流量制御となります。

Nimbusでは、特定のURL単位で流量制御を行う事が可能です。
関連するサービスは、以下。

web.xmlの記述例は、ここ

サービス定義の記述例は、以下。

  1. <?xml version="1.0" encoding="Shift_JIS"?>
  2. <!DOCTYPE server PUBLIC
  3. "-//Nimbus//DTD Nimbus 1.0//JA"
  4. "http://nimbus.sourceforge.jp/dtd/nimbus-service_1_0.dtd">
  5. <server>
  6. <manager>
  7. <!-- インターセプタを連ねる順序を示すInterceptorChainListサービス -->
  8. <service name="InterceptorChainList"
  9. code="jp.ossc.nimbus.service.aop.DefaultInterceptorChainListService">
  10. <!-- 連ねるInterceptorサービスのサービス名を設定する -->
  11. <attribute name="InterceptorServiceNames">
  12. #SelectableServletFilterInterceptor
  13. </attribute>
  14. <depends>SelectableServletFilterInterceptor</depends>
  15. </service>
  16. <!-- HTTPリクエストに対して任意のパス毎に異なるインターセプタを呼び出すInterceptorサービス -->
  17. <service name="SelectableServletFilterInterceptor"
  18. code="jp.ossc.nimbus.service.aop.interceptor.servlet.SelectableServletFilterInterceptorService">
  19. <!-- 呼び出されるパスとインターセプタのマッピングを定義する -->
  20. <attribute name="PathAndInterceptorServiceNameMapping">
  21. /hoge.bf=#ServletFilterFlowControlInterceptor1
  22. /fuga.bf=#ServletFilterFlowControlInterceptor2
  23. </attribute>
  24. <depends>ServletFilterFlowControlInterceptor1</depends>
  25. <depends>ServletFilterFlowControlInterceptor2</depends>
  26. </service>
  27. <!-- サーブレットフィルタ層のInterceptorにアダプタするInterceptorサービス -->
  28. <service name="ServletFilterFlowControlInterceptor1"
  29. code="jp.ossc.nimbus.service.aop.interceptor.servlet.ServletFilterInterceptorAdapterService">
  30. <!-- アダプタするInterceptorサービスのサービス名を設定する -->
  31. <attribute name="InterceptorServiceName">#FlowControlInterceptor1</attribute>
  32. <depends>
  33. <!-- 流量を制御するInterceptorサービス -->
  34. <service name="FlowControlInterceptor1"
  35. code="jp.ossc.nimbus.service.aop.interceptor.FlowControlInterceptorService">
  36. <attribute name="SemaphoreServiceName">#Semaphore1</attribute>
  37. <depends>
  38. <service name="Semaphore1"
  39. code="jp.ossc.nimbus.service.semaphore.DefaultSemaphoreService">
  40. <attribute name="ResourceCapacity">3</attribute>
  41. </service>
  42. </depends>
  43. </service>
  44. </depends>
  45. </service>
  46. <!-- サーブレットフィルタ層のInterceptorにアダプタするInterceptorサービス -->
  47. <service name="ServletFilterFlowControlInterceptor2"
  48. code="jp.ossc.nimbus.service.aop.interceptor.servlet.ServletFilterInterceptorAdapterService">
  49. <!-- アダプタするInterceptorサービスのサービス名を設定する -->
  50. <attribute name="InterceptorServiceName">#FlowControlInterceptor2</attribute>
  51. <depends>
  52. <!-- 流量を制御するInterceptorサービス -->
  53. <service name="FlowControlInterceptor2"
  54. code="jp.ossc.nimbus.service.aop.interceptor.FlowControlInterceptorService">
  55. <attribute name="SemaphoreServiceName">#Semaphore2</attribute>
  56. <depends>
  57. <service name="Semaphore2"
  58. code="jp.ossc.nimbus.service.semaphore.DefaultSemaphoreService">
  59. <attribute name="ResourceCapacity">10</attribute>
  60. </service>
  61. </depends>
  62. </service>
  63. </depends>
  64. </service>
  65. </manager>
  66. </server>

業務層での流量制御

一般的には、業務層では、EJBのインスタンスプール数で流量を制御します。

Nimbusでは、業務層は、業務フローを使って開発します。
業務フローでは、業務処理のフロー単位及びフロー内の1処理であるステップ単位での流量制御が可能です。

業務フロー定義の定義例は、以下。

  1. <?xml version="1.0" encoding="Shift_JIS"?>
  2. <!DOCTYPE flows PUBLIC
  3. "-//Nimbus//DTD Nimbus Bean Flow 1.0//JA"
  4. "http://nimbus.sourceforge.jp/dtd/beanflow_1_0.dtd">
  5. <flows>
  6. <flow name="SampleFlow"
  7. maxRunThreads="5"
  8. maxWaitThreads="10"
  9. timeout="10000"
  10. forceFreeTimeout="60000">
  11. <step name="Step3"
  12. maxRunThreads="2">
  13. </step>
  14. </flow>

サービス層での流量制御

Nimbusでは、静的アスペクトの1手法として、サービスをプロキシ化する事で、サービスの呼び出しに対して特定の機能を付加する事ができます。
その方法で、サービスの呼び出しに対して、流量制御機能を付加する事ができます。
関連するサービスは、以下。

サービス定義の記述例は、以下。

  1. <?xml version="1.0" encoding="Shift_JIS"?>
  2. <!DOCTYPE server PUBLIC
  3. "-//Nimbus//DTD Nimbus 1.0//JA"
  4. "http://nimbus.sourceforge.jp/dtd/nimbus-service_1_0.dtd">
  5. <server>
  6. <manager>
  7. <!-- リモートのプロキシとなるRemoteClientサービス-->
  8. <service name="Messenger"
  9. code="jp.ossc.nimbus.service.proxy.RemoteClientService">
  10. <attribute name="RemoteInterfaceClassName">sample.service.Messenger</attribute>
  11. <attribute name="InvokerServiceName">#Invoker</attribute>
  12. <!-- インターセプタのチェインを定義するInterceptorChainListサービスのサービス名を設定する-->
  13. <attribute name="InterceptorChainListServiceName">#InterceptorChainList</attribute>
  14. <depends>
  15. <!-- プロキシする実体を呼び出すInvokerサービス
  16. ローカルのサービスを呼び出す。
  17. -->
  18. <service name="Invoker"
  19. code="jp.ossc.nimbus.service.proxy.invoker.LocalClientMethodCallInvokerService">
  20. <attribute name="LocalServiceName">#RealMessenger</attribute>
  21. <depends>RealMessenger</depends>
  22. </service>
  23. </depends>
  24. <depends>InterceptorChainList</depends>
  25. </service>
  26. <!-- プロキシから呼び出される実体となるサービス-->
  27. <service name="RealMessenger"
  28. code="sample.service.POJOService">
  29. <attribute name="Message">Hello!</attribute>
  30. </service>
  31. <!-- インターセプタのチェインを定義するInterceptorChainListサービス-->
  32. <service name="InterceptorChainList"
  33. code="jp.ossc.nimbus.service.aop.DefaultInterceptorChainListService">
  34. <attribute name="InterceptorServiceNames">
  35. #FlowControlInterceptor
  36. </attribute>
  37. <depends>FlowControlInterceptor</depends>
  38. </service>
  39. <!-- 流量を制御するInterceptorサービス -->
  40. <service name="FlowControlInterceptor"
  41. code="jp.ossc.nimbus.service.aop.interceptor.FlowControlInterceptorService">
  42. <attribute name="SemaphoreServiceName">#Semaphore</attribute>
  43. <depends>
  44. <service name="Semaphore"
  45. code="jp.ossc.nimbus.service.semaphore.DefaultSemaphoreService">
  46. <attribute name="ResourceCapacity">10</attribute>
  47. </service>
  48. </depends>
  49. </service>
  50. </manager>
  51. </server>

また、サービスによっては、流量制御を組み込む事を前提としたサービスもあります。
以下にその一覧を示します。

アスペクト指向による任意の場所での流量制御

Nimbusでは、アスペクト指向を使う事で、任意のクラスの任意のメソッド呼び出しに対して、機能を付加する事ができます。
その方法で、任意のクラスの任意のメソッド呼び出しに対して、流量制御機能を付加する事ができます。


FAQ