Fiddler 2chプロクシ専用 Part1 [転載禁止]©2ch.net

■ このスレッドは過去ログ倉庫に格納されています
2015/03/26(木) 23:24:16.96ID:YucLrJ+j0
htmltodatByFiddler
 要.NET Framework (webスクレイピング)
 ttp://mukiyu.g.ribbon.to/ 【v1.05   v2.02 (v2系は差分取得対応)】
 ttp://jbbs.shitaraba.net/bbs/read.cgi/computer/1929/1038409548/
(要参照 ttp://anago.2ch.net/test/read.cgi/software/1426589898/763
 ttp://www.telerik.com/download/fiddler
2016/01/04(月) 18:29:03.75ID:3s+WOxvJ0
>>280
JScriptエディタ等のAdd-onツールもアプデされてたから、一緒に更新したは。

VisualStudio2015 Update1インスト済みだから、.NET Framework 4.6.1含め
全て最新の環境だは。
2016/01/06(水) 08:35:17.76ID:/2bx8mk80
>>279-280
アップデートチェックからでも 4.6.2.0 が入るようになっていた。
CustomRules.js の変更はユーザエージェントの文字列が最新バージョンに更新されているだけ。
ユーザエージェント偽装をして実験や試験などする人でなければ影響ない。
2016/01/06(水) 10:13:35.04ID:3TIAGLtU0
>>282
自分の環境(Win7&IE11)のUAが無いから、何時も追加してる。
そんで、UA偽装の設定を、UA一覧から選択出来る様にしてるよ。
2016/01/12(火) 02:42:59.29ID:5PpwfyTl0
新read.cgiバグ対策版 htmltodatByFiddler 2.13 が出たお。
2016/01/16(土) 17:42:28.65ID:f2h9GRfQ0
1ヶ月以上過ぎてしまったけど
apitodatByFiddlerさんのV2.00(>>248)を反映させたFiddler2chExtension2.0.0.0をアップしました。
浪人ID PASSを入れられるようにはしたのですが、アカウント持っていないので未検証です。

ダウンロードはこちら
http://www1.axfc.net/u/3601946.zip

詳しくはwikiのFiddler Extensionを利用してHTML2DAT / APIモードを切り替えたいを見てください。
2016/01/16(土) 20:37:57.55ID:vUF9re8Y0
>>285
おつかれさまです
win7 64bit Fidder v4.6.2.0
で問題なく動作しております
なお当方も浪人は未検証
2016/01/20(水) 03:47:26.62ID:0tj7k9NY0
Fiddlerアンインストールしたのにブラウザで

[Fiddler] DNS Lookup for "****.net" failed. System.Net.Sockets.SocketException 要求した名前は有効ですが、要求された種類のデータは見つかりませんでした。

って出てくるんだが?
2016/01/20(水) 04:21:42.64ID:wMOj67PV0
レジストリ/ファイル/フォルダ/ブラウザの設定などはチェックした?
2016/01/20(水) 04:56:40.39ID:0tj7k9NY0
2chApiProxyのせいだった
290名無しさん@お腹いっぱい。
垢版 |
2016/03/07(月) 09:52:29.33ID:tlPLbcj90
age
291名無しさん@お腹いっぱい。
垢版 |
2016/03/15(火) 02:06:39.17ID:cI2njVgO0
なんかまた既得スレ取得するとスレ壊れないか?
2016/03/15(火) 02:13:05.30ID:pELXLDNp0
最新版入れてるけど正常だぞ
2016/03/15(火) 17:33:28.24ID:tJi3GQ0u0
>>291
以前のバージョンで取得したスレだと変換の仕方が多少違うのでサイズが違ってしまって壊れることがある。
これは仕方がない。素直に再取得。
2016/03/26(土) 04:47:58.72ID:69Ha2yw60
>>293
>>291でないけど今日急になったぞ
もちろんFiddlerもルールもしばらく変更無しで

ともあれ再取得で直ったみたいだthx
2016/03/26(土) 10:48:24.93ID:69Ha2yw60
…と思ったけどダメだった
新レスが来る度にずれる
スレを切り替える度に前回正常だった場所からになる

板は半角二次元、まあPINK全部だろうけど
ブラウザで開いても不審な場所はないような…
2016/03/26(土) 13:15:18.38ID:AZVPDT8k0
nasu鯖、mercury鯖に移転したんだな

>>295
最終レス末尾に広告枠が追加されたようだ
バナー広告削除の前後何れかに以下を追加で

oBody = oBody.replace(/<\/div><\/div><\/div><div><div class="js--ad--bottom"[\s\S]*$/,"</div></div>\n");
2016/03/26(土) 14:49:20.88ID:AZVPDT8k0
>>295
もう一つ
ブラウザで見るとレス番0があるスレ
どうやらこれはあぼーん(あは〜ん・うふ〜ん)されたレスはhtml上では省略表示されてることを示してるようだ
dat化する時あぼーんレスの補完が必要になる……気分が乗らないので誰かに任せる
とりあえずレス番0を除去だけ

oBody = oBody.replace(/<div class="post" id="0"[\s\S]+?(?=<div class="post")/,"");

51行目の「後ろの不要な部分をカット」より前に追記すること
2016/03/26(土) 21:32:10.36ID:69Ha2yw60
>>296
外出してたのと不具合があったのを調べてたのでレス遅れた
でもおかげでFiddlerの使い方が少しわかったぞ!
inspectorのrawを見ればどうなったか見えるのか

oBody = oBody.replace(/<\/div><\/div><\/div><div><div class="js--ad--bottom"[\s\S]*$/,"</div></div>");
これなら大丈夫だった(末尾の\n削除)、でもこれで大丈夫になった

>>297
なんか厄介な仕様だなあ
2016/03/29(火) 02:52:12.40ID:l5n/c8fU0
バグ対版 htmltodatByFiddler 2.14 が出たお。
2016/03/29(火) 23:24:30.17ID:wzHLuNfT0
>>299
d
2016/04/03(日) 11:06:26.91ID:EhBTQfx80
乙です!
2016/04/29(金) 07:28:05.27ID:DPe08Hzr0
fiddler最新のv4.6.2.3にしたら、毎回起動時に
telerik.com/UpdateCheck.aspxへ繋ぎにいくんだけど何とかならないのかな?
もちろんアプデのチェックははずしてるし
レジストリHKEY_CURRENT_USER\Software\Microsoft\Fiddler2をいじっても効果がなかった
2016/04/29(金) 10:25:53.88ID:RyBHWdzH0
>>302
ほんとこれ
ネットつながってないとエラー吐いてうるさい
古いバージョンに戻したわ
2016/04/29(金) 10:28:47.34ID:TaRJzUvM0
>>302
その URL に繋ぎにいくのを止めるフィルタを書けばいいんじゃね?
ログに出てるってことは通常経路で通信していると見ていいっぽいから OnBeforeRequest で握り潰せばいいと思う。

ただこの手のソフトの更新チェックは入れておいた方がいいとは思うけどな。
2016/04/29(金) 21:27:43.36ID:DPe08Hzr0
>>303
うちだけかと思ったら皆さんそうでしたかw

>>304
戻り値も見てるようなのでそれだとうまくいかないかな
結局別OSのv4.6.2.2を上書きしたら止まりました
306名無しさん@お腹いっぱい。
垢版 |
2016/06/17(金) 03:31:20.94ID:RKY3WPZS0
JaneXenoが更新されたぞ

【専ブラ】 Janeがまさかの更新キター
http://hitomi.2ch.net/test/read.cgi/poverty/1466045082/


1 :番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ a64c-TmMJ):2016/06/16(木) 11:44:42.41 ID:XkbItdUd0
JaneXeno
http://janexeno.client.jp/

319 名前:koreawatcher ◆XenoM10nSg [sage] 投稿日:2016/06/15(水) 20:33:18.55 ID:1pfwoAuz
Xeno160615 試作品
http://janexeno.client.jp/janexenobeta.htm
・スレ取得関連のロジックをXeno151212以前の状態に戻した。
 浪人の認証も以前の状態に戻ったためOpenSSLがなくても認証可能。
2016/07/08(金) 21:42:59.04ID:fvOgJGSk0
もしかして公式からダウンロード出来るのって.NET4版のみ?
2016/07/09(土) 08:40:26.07ID:gNsaJe8K0
7/6付けの v4.6.2.29442 にしてみたが、特に変わらず。
2016/07/09(土) 09:34:08.30ID:ULT5s2Ju0
>>307
6月17日の 2.6.2.26757 で統一されたみたいだ
Introduced single installer for .NET framework 2 and .NET framework 4
2017/01/07(土) 12:21:41.78ID:85uh4bZL0
テスト
2017/02/24(金) 15:21:28.58ID:BiOIY5w/0
たまに再起動しないとあかんのね
ブラウザが異常にもっさりしたり繋がらなくなるのはこいつのせいだった
2017/02/24(金) 23:08:18.80ID:5MqDd8w/0
>>311
それが専ブラなのかWebブラウザなのかは分からんが俺はなったことないな
もっとも常駐しっぱなしはあまりないからかもだが
ただ起動中はほとんどメモリを解放してくれないからそれが原因の可能性もある

とりあえず起動時は「/noversioncheck /quiet」のコマンドオプション付けてる
前者は最近のバージョンでの起動時の強制更新チェックするのを防いでる
後者は起動時のスプラッシュやウィンドウ表示をカットする最少化起動みたいなもの
ウィンドウ等が表示されない分若干メモリを抑えて起動できるな
2017/02/25(土) 06:24:52.74ID:wp7lXYaw0
通信ログを貯めっ放しだと、メモリ喰いまくるからな。
特定の通信以外のログを表示しないようにスクリプトを改造するか、
定期的にログを消去しないと。
314名無しさん@お腹いっぱい。
垢版 |
2017/03/07(火) 14:41:56.32ID:2+hvvhS50
サーバーの調子がおかしいのかなんか重いなぁ…と思ってたらFiddlerがCPUを滅茶苦茶食っててプチフリーズ発生(´・ω・`)こんなの初めて
2017/03/07(火) 14:48:11.36ID:fcaCVQKe0
>>314 たまにあるよ
常駐チェッカー画面に貼り付けておくのもありかも
2017/03/07(火) 14:51:24.20ID:2+hvvhS50
>>315
そうなんですか!初めてだったのでオロオロしてここ来てみた(´・ω・`)
常駐チェッカーというのを探してみます!
ありがとうございまさいた
2017/03/07(火) 15:05:24.74ID:IJmE1ORo0
なんか再読み込みが発生しまくってるから2chのread.cgiの仕様が変わったのかも?
2017/03/07(火) 16:34:00.97ID:eBHJlkOw0
bbspink
2017/03/07(火) 16:46:08.91ID:IJmE1ORo0
>>318
pinkのスレ読めないな
Fiddlerがビジーになってタイムアウトする
2017/03/07(火) 17:51:53.86ID:tHEZJSyO0
うちの Fiddler はどうもなってないぞ。CPU 食うこともない。
v4.6.20171.7553
ログは 2,000 程度溜まってる。

念の為に pink を見てみたら確かに止まるな。CPU も1コア占有する。phobe も mercury も同じ。
スレの内容自体が最後まで読めてるのは Fiddler で確認できてるから、pink 側で送信終了を知らせて来ないんだろうな。
何度かこの状態になったことはあるけどここ当分はなかったな。

ちと様子見やね。
2017/03/07(火) 17:53:37.70ID:tHEZJSyO0
pink でもスレ一覧は更新した上で見られるから read.cgi でなにかやらかしてるんじゃないかな。
2017/03/07(火) 19:52:44.30ID:yloatFQu0
しばらく平和だったから油断してたわ
2017/03/07(火) 20:28:15.35ID:0+Vwv3cs0
イライラするっちゃ
2017/03/07(火) 21:15:41.23ID:sRCPDR3E0
pinkで実験したのち2chに本格導入すると思って準備した方がいいだろうね
個人的に以前から使ってる2ch向け改造したWebAbornが機能してるから、肝心の部分はそれほど変わってなさそうに思える
2017/03/07(火) 23:02:42.78ID:sRCPDR3E0
自分用には一応できた
ザックリとしたヒントを言えば
div中心の構造から以前のようにdl、dt、dd、span、さらにsectionを使うようになった
class名が一部変更
広告関係はレス1とレス2の間のみ
2017/03/08(水) 00:28:51.03ID:lGOSRq6n0
神はまだ気づいておらぬのか!のんびり待ってみるとしよう
2017/03/08(水) 02:13:43.32ID:2pnFaRrs0
>>326
2.15来てるよ
2017/03/08(水) 02:29:28.67ID:Ua26RsoW0
>>327
マジやん。
さっそく入れたわ。あなたと作者に多謝。
2017/03/08(水) 09:57:04.56ID:3diFSU420
音もなくなおかげか時間のせいかレスないな
無事読み込めたわ感謝
2017/03/08(水) 10:33:05.55ID:3diFSU420
ニュー速Fだけログが壊れる
2が2つになってその後のレス番がずれてる
2017/03/08(水) 14:04:04.18ID:PVAvJ0ON0
ありがてぇ
2017/03/08(水) 15:02:05.98ID:2pnFaRrs0
>>330
理由がわかったわ
beIDの処理が抜けてるね
あと大きな影響ないけどageレス時の名前にfontタグが使われてる
2017/03/08(水) 16:39:41.20ID:lGOSRq6n0
>>327
ホントだ!来てるうううう

神さま、そして教えてくれた327さんありがとう
334名無しさん@お腹いっぱい。
垢版 |
2017/03/08(水) 23:20:56.52ID:lGOSRq6n0
2.16来ましたよー!
ありがとうございましたー
2017/03/08(水) 23:45:57.57ID:gDE47myz0
うほ
対応はやい
2017/03/09(木) 01:21:13.38ID:6fyydeVJ0
さんきゅう
Fも読めたよ
2017/03/09(木) 16:44:22.94ID:+zvFB2u90
ありがたい
2017/03/09(木) 23:35:24.73ID:DKTbJCnG0
上部メニューのGeoEdgeって所を消すにはどうしたらいいのでしょうか?
2017/03/10(金) 05:38:57.34ID:4DGBsBf30
v2.16に併せて、Fiddlerもv4.6.20171.9220(2017/2/8付)にアップしたし、
これで万全だな。
2017/03/10(金) 09:51:58.42ID:p2lpaSaV0
まぁしばらくはこれでいいとして、一体2chのゴタゴタは何時まで続くのかと・・・
2017/03/10(金) 09:57:09.46ID:rHoc0S6a0
>>340
>一体2chのゴタゴタは何時まで続くのかと・・・
2chのゴタゴタって何のこと?
2017/03/10(金) 10:27:49.15ID:p2lpaSaV0
>>341 そもそも、串かまさなければ使えない状況の発端とか、マージする事で起きるレス番吹っ飛びとか
2017/03/12(日) 01:42:35.48ID:9wkd0/tv0
v2.17出てたは。
2017/03/13(月) 18:14:16.99ID:vQQpBmWy0
ありがとおおおお
うまく開けないスレがあったのが直りました
2017/03/13(月) 18:26:48.39ID:vQQpBmWy0
と思ったのに、、、やっぱ駄目だ
また何か変更があったのかも
2017/03/13(月) 18:42:46.25ID:J3yZ1xxg0
どこの板?
2017/03/13(月) 19:02:34.80ID:vQQpBmWy0
pink板だったんだけど、、、何か気のせいだったみたい
さっきは再読み込みしてもキチンと開けないのがいくつかあったんだけど
異常終了後、再起動したら開けるようになりました
お騒がせしました
2017/03/25(土) 22:43:12.96ID:X28JGCRC0
fiddlerで常にcaptureしないようにする方法はないですか?
2017/03/26(日) 05:55:45.13ID:pEv+Qh6H0
>>348
Tools - Telerik Fiddler Options - Connections - Monitor all connections には普通チェックが入ってるから外す、あたりかな。
2017/03/26(日) 06:25:35.19ID:vF2ijhNN0
OnBeforeRequest関数の頭で

 oSession["ui-hide"] = "true";

ぶち込むのもあるよ。
2017/03/26(日) 14:09:10.29ID:cu7U0grd0
httpスキームカットに対応した2.18出てるよ
2017/03/27(月) 20:28:04.16ID:nPjrjt1s0
>>349
それ外しとかないとうっかりWindows Updateかかると大変な負荷になるんだよな…ほとんどフリーズ
353名無しさん@お腹いっぱい。
垢版 |
2017/04/14(金) 09:28:28.79ID:yTCo5vfy0
俺だけかな?今日起動(Win10)したらCustomRules.jsファイルが消えてしまってて焦った
2017/04/14(金) 10:03:35.53ID:zCYkSVEZ0
>>353
こちらでは特に問題はなさげ。
ここ最近でのイベントというと Creators Update 配信開始くらいかな。関係ないと思うんだけど。
2017/04/14(金) 10:20:44.74ID:yTCo5vfy0
>>354
ウチのだけだったみたですね。。。また起こるかもしれないのでファイルをバックアップしとこうと思う
情報ありがとうございました(-ω-)/
2017/04/23(日) 00:34:04.78ID:UpAk7ks60
2.20来たぞ
2017/04/23(日) 13:34:20.07ID:mGPxnqWr0
2.21来てる
2017/04/23(日) 13:37:00.82ID:mGPxnqWr0
読めるようになったわ
2017/04/23(日) 13:40:14.51ID:UpAk7ks60
>>357
完走してないスレだとゴミが残ってたようだな乙
2017/04/23(日) 14:26:53.00ID:v2pxo5Qv0
ちょ、朝から更新したばっかなのにもう次が来たのかw
いつもありがとー
2017/04/23(日) 15:24:21.11ID:k+PYar1Z0
ありがとー
2017/04/23(日) 20:12:36.86ID:+VeA0z5I0
んー
2017/04/23(日) 20:26:05.55ID:+VeA0z5I0
v2.21

書き方が変わったのかと思ったがコードを読むとそうでもないので書き込めない人以下のように修正
if分の終了が変わってるせいでjane styleで書けない

OnBeforeRequestの内容の一番下の

} ←これを削除
//ここまで

OnBeforeRequestの内容の真ん中より少し上の

oSession["htmltodat"] = "on";
}←ここに追加
var headers = oSession.oRequest.headers;


これで書き込めるようになります
2017/04/23(日) 20:43:55.45ID:fVehbyIs0
UA変更まで、GETリクエストの判定文の中に入れちゃマズイわな。
2017/04/24(月) 01:56:39.52ID:FmpR0sq70
ありがとう
2017/04/24(月) 02:14:52.59ID:sTwRXBx/0
thx そして テスト
2017/04/24(月) 02:24:32.48ID:pYoZ1FNU0
神様ありがとう
2017/04/24(月) 02:25:33.63ID:pYoZ1FNU0
DoeViewではコメントからコメントの上書きで問題なく書き込めますね
2017/04/24(月) 08:51:44.94ID:4YjTbnmO0
てs
370名無しさん@お腹いっぱい。
垢版 |
2017/04/25(火) 02:20:09.35ID:4cOSgmrd0
2.21入れても


ニュー速(嫌儲)
http://hitomi.2ch.net/poverty/

鉄道総合
http://echo.2ch.net/train/

が読み込めないぞ
371名無しさん@お腹いっぱい。
垢版 |
2017/04/25(火) 02:20:28.44ID:4cOSgmrd0
えtts
2017/04/25(火) 02:43:09.51ID:dOrye6GI0
両方とも読み込めたけど専ブラぐらい書けよ
373名無しさん@お腹いっぱい。
垢版 |
2017/04/25(火) 19:05:03.27ID:lYXheNGB0
今の所JaneStyleでは363さんの言う修正をしなくても使えてるんですが
スレを開いたまま新着チェックをするとログが壊れてしまいませんか?板によるみたいでν即だとそうなってしまいます。。
2017/04/25(火) 19:45:20.80ID:dOrye6GI0
2chの仕様が変わったせいでサイズ一致しなくなっているのが原因
変わったところだとログが壊れるがまだ変わってないところだと壊れずに読み込める
375名無しさん@お腹いっぱい。
垢版 |
2017/04/25(火) 19:54:33.64ID:lYXheNGB0
そういう事だったんですね。。。自分の所だけかとオロオロしてました(´・ω・`)
おとなしく更新されるのを待ってみます
ありがとうございました
2017/04/25(火) 20:01:38.27ID:ILeBKoIN0
よくわからないんだけど、JaneStyle使ってるのに串いるの?
2017/04/25(火) 20:12:19.32ID:cKPkl1W80
あれ、そういえばそうだな
なんか違和感覚えたのはそれか
2017/04/25(火) 20:12:35.88ID:dOrye6GI0
3.75までを使ってたらそりゃいるでしょ
2017/04/26(水) 01:50:01.63ID:tMYpvqyl0
見た目がまた微妙に変わってるけど新たにbrタグが追加されてるな
まだ過渡期かもしれん
380名無しさん@お腹いっぱい。
垢版 |
2017/04/26(水) 02:56:47.60ID:amoW5c/x0
>>373
JaneXeno 170110
■ このスレッドは過去ログ倉庫に格納されています
16歳の水野カイトが封印の刀を見つけ、時間が裂けて黒い風と亡霊の侍が現れ、霊の時雨と契約して呪われた刀の継承者となる場面

ニューススポーツなんでも実況